Stateless API.
En françaisAPI sans étatAussi : stateless · sans mémoire
API qui ne garde aucun souvenir d’une requête à l’autre : tout l’historique utile est renvoyé à chaque appel.
Explication
Le modèle ne se souvient de rien : ce qu’il « sait » de la conversation tient dans le prompt. L’application conserve donc l’historique et le renvoie en entier à chaque message. Certaines API peuvent stocker cet historique côté serveur, mais le modèle le relit quand même à chaque fois.
Exemple
Pour que le modèle comprenne « Quel est son pari ? », la requête contient aussi la question et la réponse précédentes sur Phileas Fogg.
Limites
Chaque nouveau message repaie tous les tokens de l’historique : le coût d’une longue conversation grandit à chaque tour.
Notions liées
Chaque ligne se lit comme une phrase : « Stateless API est un type de Application Programming Interface ».
- est un type deAPI — Application Programming Interfaceinterface de programmation applicative
- voir aussiMessage Rolesrôles des messages
- voir aussiContext Windowfenêtre de contexte
- voir aussiPrompt Cachingmise en cache du prompt
- voir aussiAgent Memorymémoire d’agent
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le