Guardrails.
En françaisgarde-fousAussi : contrôles de sécurité IA · barrières de protection
Contrôles qui limitent les entrées, sorties et actions d’un système IA selon une politique.
Explication
Les garde-fous peuvent valider des schémas, filtrer des contenus, limiter des outils, exiger une approbation ou contrôler les sorties. Ils se placent à plusieurs frontières du système et doivent être testés contre des contournements.
Exemple
Une application refuse une action de paiement tant qu’un humain ne l’a pas confirmée.
Limites
Aucun filtre isolé ne garantit la sécurité ; combiner contrôles déterministes, permissions minimales et supervision.
Usages métiers
- Réduction des risques d’usage
Métiers associés
- Ingénieur sécurité
- Responsable gouvernance IA
Compétences mobilisées
- Politiques d’accès
- Tests adversariaux
Notions liées
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 1 : définition relue à partir des sources citées.
Mise en ligne le