Test-time Compute.
En françaiscalcul à l’inférenceAussi : inference-time compute · test-time scaling
Améliorer une réponse en dépensant plus de calcul au moment de répondre, sans réentraîner le modèle.
Explication
Plutôt que de grossir le modèle, on le laisse travailler plus longtemps sur chaque question : réfléchir avant de répondre, produire plusieurs réponses et garder la meilleure, se relire. Les modèles de raisonnement en sont l’exemple le plus visible.
Exemple
Générer cinq solutions à un problème de code et retenir celle qui passe les tests.
Limites
Plus lent et plus cher à chaque requête, avec des gains qui s’amenuisent ; vocabulaire encore mouvant.
Notions liées
Chaque ligne se lit comme une phrase : « Test-time Compute voir aussi Reasoning Model ».
- voir aussiReasoning Modelmodèle de raisonnement
- voir aussiReasoning Efforteffort de raisonnement
- voir aussiCoT — Chain-of-Thoughtchaîne de pensée
- voir aussiLatencylatence
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le