Reasoning Effort.
En françaiseffort de raisonnementAussi : reasoning.effort · thinking budget · budget de réflexion
Réglage qui fixe la quantité de tokens qu’un modèle de raisonnement consacre à réfléchir avant de répondre.
Valeurs clés
niveaux courants : faible, moyen, élevé
Explication
Un modèle de raisonnement produit des tokens de réflexion, invisibles pour l’utilisateur, avant sa réponse. Plus l’effort est élevé, plus il explore, vérifie et corrige, et plus la réponse est lente et coûteuse.
Exemple
Un effort faible suffit pour reformuler un courriel ; un effort élevé aide à trouver un bug dans un programme.
Limites
Les tokens de raisonnement sont facturés et occupent la fenêtre de contexte. Plus d’effort ne garantit pas une meilleure réponse.
Notions liées
Chaque ligne se lit comme une phrase : « Reasoning Effort voir aussi Reasoning Model ».
- voir aussiReasoning Modelmodèle de raisonnement
- voir aussiTest-time Computecalcul à l’inférence
- voir aussiLatencylatence
- voir aussiMax Tokenslongueur maximale de sortie
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le