Supervised Fine-Tuning (SFT).
En françaisajustement fin superviséAussi : fine-tuning supervisé
Ajustement d’un modèle sur des exemples d’entrées accompagnées de réponses souhaitées.
Valeurs clés
perte calculée sur les seuls tokens de la réponse (masquage du prompt)
Explication
Les exemples montrent au modèle le comportement attendu. Un masquage de la perte peut ne calculer l’erreur que sur la réponse, plutôt que sur le prompt entier.
Exemple
Une paire question-réponse validée sert d’exemple au modèle pendant l’ajustement.
Limites
Le modèle peut mémoriser des exemples et reproduire leurs erreurs ; le SFT ne garantit pas l’alignement sur toutes les préférences.
Usages métiers
- Suivre des instructions
- Réponses structurées
Métiers associés
- Ingénieur IA
- Spécialiste qualité IA
Compétences mobilisées
- Curateur de données
- Évaluation humaine
Notions liées
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 1 : définition relue à partir des sources citées.
Mise en ligne le