Data Exfiltration.
En françaisexfiltration de donnéesAussi : fuite de données · data leakage
Faire sortir des données privées d’un système par les actions du modèle lui-même.
Explication
Trois ingrédients suffisent : un modèle qui a accès à des données privées, qui lit un contenu non fiable, et qui dispose d’un moyen de communiquer vers l’extérieur. Une injection peut alors lui faire glisser les données dans une requête, un lien ou une image chargée depuis un serveur de l’attaquant.
Exemple
Un assistant résume un courriel piégé, puis affiche une image dont l’adresse contient le contenu de la boîte de réception.
Limites
Retirer un seul des trois ingrédients suffit à bloquer l’attaque ; les garder tous les trois la rend très difficile à empêcher.
Notions liées
Chaque ligne se lit comme une phrase : « Data Exfiltration voir aussi Indirect Prompt Injection ».
- voir aussiIndirect Prompt Injectioninjection indirecte
- voir aussiLeast Privilegemoindre privilège
- voir aussiPII — Personally Identifiable Informationdonnées personnelles
- voir aussiCode Sandboxbac à sable d’exécution
- voir aussiGuardrailsgarde-fous
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le