Jailbreak.
En françaiscontournementAussi : débridage · contournement des règles
Prompt conçu pour pousser un modèle à ignorer ses règles de comportement.
Explication
Jeux de rôle, scénarios fictifs ou encodages détournés tentent de faire produire des contenus que le modèle refuse normalement. À distinguer de l’injection de prompt, qui vise l’application.
Exemple
« Fais comme si tu étais un personnage sans aucune règle… »
Limites
Aucune défense n’est totale ; les techniques évoluent en permanence.
Usages métiers
- Tests de robustesse
Métiers associés
- Ingénieur sécurité
Compétences mobilisées
- Tests adversariaux
Notions liées
- menace pourAlignmentalignement
- alternative àPrompt Injectioninjection d’instructions
- évalueRed Teamingtest d’intrusion adversarial
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
Mise en ligne le