In-context Learning (ICL).
En françaisapprentissage en contexteAussi : apprentissage par le contexte
Capacité d’un modèle à s’adapter aux consignes et aux exemples du prompt, sans modifier ses poids.
Explication
Le mot « apprentissage » est trompeur : rien n’est entraîné. Le modèle repère le motif présent dans le prompt et le prolonge, grâce à l’attention. Tout disparaît à la requête suivante.
Exemple
Trois paires « phrase → sentiment » dans le prompt suffisent pour que le modèle classe la quatrième phrase.
Limites
L’effet est limité à la fenêtre de contexte et ne dure pas ; le résultat dépend du choix et de l’ordre des exemples.
Notions liées
Chaque ligne se lit comme une phrase : « In-context Learning alternative à Fine-tuning ».
- alternative àFine-tuningajustement fin
- voir aussiFew-shot Promptingrequête avec quelques exemples
- voir aussiZero-shotsans exemple
- voir aussiContext Windowfenêtre de contexte
- voir aussiPromptrequête
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le