Red Teaming.
En françaistest d’intrusion adversarialAussi : équipe rouge · adversarial testing
Évaluation où une équipe cherche activement les failles d’un système IA en jouant l’attaquant.
Explication
Les testeurs tentent jailbreaks, injections, fuites de données ou usages abusifs, puis documentent les failles pour les corriger avant ou après la mise en production.
Exemple
Avant le lancement, l’équipe essaie de faire révéler au chatbot des données d’autres clients.
Limites
Ne prouve pas l’absence de failles ; à renouveler à chaque changement de modèle ou de prompt.
Usages métiers
- Mise en production
Métiers associés
- Ingénieur sécurité
Compétences mobilisées
- Modélisation de menace
Notions liées
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
Mise en ligne le