Parameter-Efficient Fine-Tuning (PEFT).
En françaisfine-tuning économe en paramètresAussi : adaptation paramétriquement efficaceExemples : LoRA · QLoRA · adapters · prompt tuning
Famille de méthodes de fine-tuning qui n’entraînent qu’une petite part des poids, en gelant le reste du modèle.
Valeurs clés
souvent moins de 1 % des paramètres entraînés
Explication
Réentraîner des milliards de poids demande une mémoire énorme. Ces méthodes gèlent le modèle et ajoutent quelques petites matrices entraînables. Le résultat tient dans un fichier de quelques mégaoctets, que l’on charge par-dessus le modèle d’origine.
Exemple
Une équipe garde un seul modèle de base et un petit fichier d’adaptation par client.
Limites
Un peu moins expressif qu’un fine-tuning complet sur les tâches très éloignées du pré-entraînement.
Notions liées
Chaque ligne se lit comme une phrase : « Parameter-Efficient Fine-Tuning est un type de Fine-tuning ».
- est un type deFine-tuningajustement fin
- voir aussiLoRA — Low-Rank Adaptationadaptation à rang faible
- voir aussiQLoRA — Quantized Low-Rank AdaptationLoRA quantifié
- voir aussiCatastrophic Forgettingoubli catastrophique
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le