Alignment.
En françaisalignementAussi : post-training · post-entraînement · AI alignment
Ensemble des méthodes qui rendent le comportement d’un modèle conforme aux intentions et aux valeurs attendues.
Explication
Après le pré-entraînement, on applique SFT, optimisation par préférences (RLHF, DPO) et règles de comportement pour obtenir un assistant utile, honnête et prudent.
Exemple
Un modèle aligné refuse d’aider à fabriquer une arme mais explique un concept de chimie.
Limites
L’alignement est imparfait et contournable ; il peut aussi produire des refus excessifs.
Usages métiers
- Assistants grand public
Métiers associés
- Chercheur en sécurité IA
Compétences mobilisées
- Évaluation humaine
Notions liées
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
Mise en ligne le