Synthetic Data.
En françaisdonnées synthétiquesAussi : données générées
Exemples d’entraînement ou d’évaluation générés par un modèle plutôt que collectés auprès d’humains.
Explication
Un grand modèle rédige des questions, des réponses ou des dialogues, que l’on filtre puis utilise pour entraîner un modèle plus petit ou construire un jeu de test. C’est rapide et peu coûteux, et l’on peut cibler les cas rares.
Exemple
Générer 5 000 questions de clients à partir d’une documentation, pour fine-tuner un assistant de support.
Limites
Les données héritent des erreurs et des tics du modèle qui les écrit ; sans relecture ni filtrage, la qualité s’effondre.
Notions liées
Chaque ligne se lit comme une phrase : « Synthetic Data est un type de Training Data ».
- est un type deTraining Datadonnées d’entraînement
- voir aussiKnowledge Distillationdistillation de connaissances
- voir aussiModel Collapseeffondrement du modèle
- voir aussiEval Setjeu d’évaluation
- voir aussiFine-tuningajustement fin
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le