Rate Limits.
En françaislimites de débitAussi : RPM · TPM · quota · erreur 429
Plafonds de requêtes ou de tokens qu’un compte peut consommer sur une API pendant une période.
Valeurs clés
RPM : requêtes par minute · TPM : tokens par minute · dépassement : HTTP 429
Explication
Les fournisseurs limitent l’usage pour partager leurs ressources. Une application robuste réessaie avec un délai croissant (exponential backoff) quand elle reçoit une erreur 429.
Exemple
Un traitement de 10 000 documents est réparti dans le temps pour rester sous la limite de tokens par minute.
Limites
Les limites varient selon le modèle et le niveau du compte ; elles évoluent dans le temps.
Usages métiers
- Traitements par lots
- Production
Métiers associés
- Développeur backend
Compétences mobilisées
- Gestion d’erreurs
Notions liées
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
Mise en ligne le