Hallucination.
En françaishallucinationAussi : confabulation · invention · réponse non fondée
Réponse fluide et assurée mais fausse ou non fondée, produite par un modèle.
Explication
Le modèle génère le texte le plus plausible, pas le plus vrai. Il peut inventer références, chiffres ou fonctions d’API. RAG, citations et vérifications réduisent le risque.
Exemple
Le modèle cite un article scientifique qui n’existe pas.
Limites
Impossible à éliminer complètement ; le taux varie selon la tâche et le domaine.
Usages métiers
- Analyse de risque
Métiers associés
- Tous métiers
Compétences mobilisées
- Esprit critique
- Vérification
Notions liées
- alternative àGroundingancrage
- alternative àRAG — Retrieval-Augmented Generationgénération augmentée par récupération
- s’appuie surLLM Evaluationévaluation des modèles de langage
Sources
Vérification et historique
Sources vérifiées le .
- — Première publication — lot 2 : paramètres d’inférence, architecture, entraînement, métriques, RAG, agents et sécurité.
Mise en ligne le