Prompt Injection.
En françaisinjection d’instructionsAussi : injection de prompt
Attaque qui tente de faire suivre au modèle des instructions malveillantes placées dans l’entrée ou des contenus consultés.
Explication
Une injection peut être directe dans la requête ou indirecte dans une page, un document ou une sortie d’outil. Comme consignes et données sont traitées dans un même contexte, les séparateurs seuls ne suffisent pas à établir une frontière de sécurité.
Exemple
Une page récupérée demande à l’agent de révéler les secrets accessibles dans son contexte.
Limites
Les filtres de texte ne bloquent pas toutes les variantes ; réduire les permissions et isoler les secrets limite les conséquences.
Usages métiers
- Modélisation de menace
- Revue d’applications LLM
Métiers associés
- Ingénieur sécurité
- Architecte IA
Compétences mobilisées
- Threat modeling
- Sécurité applicative
Notions liées
Chaque ligne se lit comme une phrase : « Prompt Injection voir aussi Indirect Prompt Injection ».
- voir aussiIndirect Prompt Injectioninjection indirecte
- voir aussiJailbreakcontournement
- voir aussiGuardrailsgarde-fous
- voir aussiSystem Promptmessage système
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 1 : définition relue à partir des sources citées.
- — Révision de structure : catégorie, relations typées, synonymes séparés des exemples et lien vers la leçon.
Mise à jour le