Top-p Sampling.
En françaiséchantillonnage par noyauAussi : nucleus sampling · top_p
Méthode qui ne garde que les tokens les plus probables dont la probabilité cumulée atteint p, puis tire au sort parmi eux.
Valeurs clés
0 à 1 · défaut 1 (aucun filtre) · 0,9 à 0,95 fréquent
Explication
Le nombre de candidats s’adapte au contexte : peu de tokens quand le modèle est sûr, davantage quand il hésite. On règle en général la température ou top-p, plutôt que les deux à la fois.
Exemple
Avec p = 0,9, si trois tokens totalisent 91 % de probabilité, seuls ces trois restent candidats.
Limites
Ne corrige pas un modèle mal calibré ; les valeurs idéales dépendent de la tâche.
Usages métiers
- Génération créative contrôlée
Métiers associés
- Développeur IA
Compétences mobilisées
- Paramétrage de génération
Notions liées
- alternative àTop-k Samplingéchantillonnage top-k
- alternative àTemperaturetempérature
- s’appuie surSoftmaxsoftmax
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
Mise en ligne le