Max Tokens.
En françaislongueur maximale de sortieAussi : max_tokens · max_completion_tokens · max_output_tokens · max_new_tokens
Nombre maximal de tokens que le modèle peut générer pour une réponse.
Valeurs clés
max_tokens (nom le plus répandu, celui du cours) · OpenAI : max_completion_tokens (Chat Completions, où max_tokens est déprécié) et max_output_tokens (Responses) · Transformers : max_new_tokens
Explication
La génération s’arrête au premier des événements suivants : token de fin, séquence d’arrêt, ou limite atteinte. Cette limite borne le coût et la latence.
Exemple
Avec une limite de 50 tokens, un long résumé est coupé au milieu d’une phrase.
Limites
Une réponse tronquée n’est pas signalée dans le texte lui-même : vérifier la raison d’arrêt (finish_reason).
Usages métiers
- Maîtriser le coût
- Réponses courtes
Métiers associés
- Développeur IA
Compétences mobilisées
- Paramétrage d’API
Notions liées
Chaque ligne se lit comme une phrase : « Max Tokens voir aussi Context Window ».
- voir aussiContext Windowfenêtre de contexte
- voir aussiFinish Reasonraison d’arrêt
- voir aussiStop Sequenceséquence d’arrêt
- voir aussiLatencylatence
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
- — Révision de structure : catégorie, relations typées, synonymes séparés des exemples et lien vers la leçon.
Mise à jour le