Prompt Injection.
En françaisinjection d’instructionsAussi : injection de prompt · attaque par instruction indirecte
Attaque qui tente de faire suivre au modèle des instructions malveillantes placées dans l’entrée ou des contenus consultés.
Explication
Une injection peut être directe dans la requête ou indirecte dans une page, un document ou une sortie d’outil. Comme consignes et données sont traitées dans un même contexte, les séparateurs seuls ne suffisent pas à établir une frontière de sécurité.
Exemple
Une page récupérée demande à l’agent de révéler les secrets accessibles dans son contexte.
Limites
Les filtres de texte ne bloquent pas toutes les variantes ; réduire les permissions et isoler les secrets limite les conséquences.
Usages métiers
- Modélisation de menace
- Revue d’applications LLM
Métiers associés
- Ingénieur sécurité
- Architecte IA
Compétences mobilisées
- Threat modeling
- Sécurité applicative
Notions liées
- menace pourAI Agentagent d’intelligence artificielle
- menace pourRAG — Retrieval-Augmented Generationgénération augmentée par récupération
- s’appuie surGuardrailsgarde-fous
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 1 : définition relue à partir des sources citées.
Mise en ligne le