Early Stopping.
En françaisarrêt précoceAussi : arrêt anticipé
Garder le modèle au moment où sa loss de validation est la plus basse, avant qu’elle ne remonte.
Explication
Pendant l’entraînement, la loss de validation baisse, puis remonte quand le modèle commence à réciter. On évalue donc régulièrement, on sauvegarde le meilleur état rencontré, et c’est celui-là que l’on garde, pas le dernier.
Exemple
Le projet MiniLab évalue tous les 100 pas et garde le checkpoint du pas 700 (loss de validation 4,116), pas celui du pas 800.
Limites
Le « meilleur » pas est choisi sur le jeu de validation : son score est légèrement optimiste.
Notions liées
Chaque ligne se lit comme une phrase : « Early Stopping utilise Train / Validation / Test Split ».
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le