Data Poisoning.
En françaisempoisonnement des donnéesAussi : corruption des données · backdoor
Corrompre des données d’entraînement, de fine-tuning ou de recherche pour biaiser le comportement d’un modèle.
Explication
L’attaquant glisse des exemples fabriqués dans un corpus : le modèle apprend alors une association voulue, parfois déclenchée par un mot précis. La même idée vise le RAG : un document piégé, une fois indexé, sera servi comme une source fiable.
Exemple
Des pages web rédigées pour qu’un modèle recommande systématiquement un produit lorsqu’on lui pose une certaine question.
Limites
Difficile à détecter après coup : la défense repose sur la provenance et le contrôle des données, en amont.
Notions liées
Chaque ligne se lit comme une phrase : « Data Poisoning voir aussi Training Data ».
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le