Hallucination

Définition

On parle d’hallucination quand un modèle invente une information plausible mais fausse : une référence, un chiffre, une clause, une procédure. Elle découle de son fonctionnement, qui génère la suite la plus probable plutôt que de vérifier un fait.

Elle se réduit, sans disparaître, en fournissant les bonnes sources, en exigeant des citations, en évaluant le système et en gardant une validation humaine là où l’erreur coûte cher.

En pratique

• Demander à l’assistant de citer ses sources permet de vérifier vite.
• Un assistant client doit pouvoir dire qu’il ne sait pas plutôt qu’inventer.
• L’entreprise reste responsable de ce que dit son assistant (voir le cas Air Canada).