OWASP Top 10 for LLM Applications.
En françaisTop 10 OWASP des applications LLMAussi : OWASP LLM Top 10 · OWASP GenAI
Liste de référence, tenue par la fondation OWASP, des dix principaux risques de sécurité des applications bâties sur des LLM.
Explication
Elle nomme et décrit chaque risque, avec des scénarios d’attaque et des mesures de prévention : injection de prompt, divulgation d’informations sensibles, empoisonnement des données, autonomie excessive… C’est le vocabulaire commun des équipes de sécurité.
Exemple
Une revue de sécurité passe l’application en revue point par point, de LLM01 à LLM10.
Limites
Une liste de vérification, pas une garantie : elle évolue à chaque édition et ne couvre pas les risques propres à chaque métier.
Notions liées
Chaque ligne se lit comme une phrase : « OWASP Top 10 for LLM Applications voir aussi Prompt Injection ».
- voir aussiPrompt Injectioninjection d’instructions
- voir aussiData Poisoningempoisonnement des données
- voir aussiSystem Prompt Leakagefuite du system prompt
- voir aussiRed Teamingtest d’intrusion adversarial
- voir aussiGuardrailsgarde-fous
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 4 : notions enseignées dans le cours, vocabulaire courant du métier et notions en veille.
Mise en ligne le