Overfitting.
En françaissurapprentissageAussi : sur-ajustement · mémorisation · underfitting
Situation où le modèle apprend par cœur ses données d’entraînement au lieu de généraliser.
Valeurs clés
signe : perte d’entraînement qui baisse, perte de validation qui remonte
Explication
Le modèle devient excellent sur les exemples vus et mauvais sur les nouveaux. On le détecte avec un jeu de validation et on le combat avec plus de données, de la régularisation ou un arrêt anticipé (early stopping).
Exemple
Un petit modèle entraîné longtemps sur un seul livre en récite des phrases entières.
Limites
Avec très peu de données, la séparation entraînement/validation est elle-même bruitée.
Usages métiers
- Diagnostic d’entraînement
Métiers associés
- Ingénieur ML
- Data scientist
Compétences mobilisées
- Validation croisée
Notions liées
- s’appuie surTrain / Validation / Test Splitdécoupage entraînement / validation / test
- utiliseDropoutabandon aléatoire
- fait partie deScaling Lawslois d’échelle
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
Mise en ligne le