C'est quoi une hallucination, et pourquoi une IA se trompe avec autant d'assurance ?

La réponse en trois lignes

Expliqué à un enfant de 5 ans

Imaginez un élève très doué, très poli, et à qui on a appris une seule règle : on répond toujours.

Vous l'interrogez sur une leçon qu'il connaît : il répond juste, clairement, avec de belles phrases. Vous l'interrogez sur une leçon qu'il n'a jamais vue — et il répond quand même. Pas en bafouillant : du même ton, avec la même assurance, en trois phrases bien tournées. Simplement, c'est faux.

Il n'a pas menti. Il n'a pas voulu vous tromper. On ne lui a jamais appris à dire « je ne sais pas », et personne ne lui a donné le moyen de faire la différence entre les deux situations. De l'intérieur, elles se ressemblent.

Une IA qui hallucine, c'est cet élève-là. Et le problème, ce n'est pas qu'elle se trompe : tout le monde se trompe. C'est qu'elle se trompe du même ton que lorsqu'elle a raison.

Ce que ça veut dire, un peu plus précisément

Elle ne consulte rien, elle produit. Un modèle de langage ne va pas chercher une réponse dans une base : il fabrique une suite de mots plausible. Quand la bonne réponse est aussi la suite la plus plausible, il tombe juste. Quand elle ne l'est pas, il tombe à côté — avec la même mécanique et la même fluidité.

Il n'existe aucun signal d'erreur à l'intérieur. Un programme classique qui n'a pas la donnée renvoie une erreur. Ici, il n'y a rien de tel : le mécanisme ne distingue pas « je sais » de « je comble ». Il n'y a pas de voyant à allumer, parce qu'il n'y a rien qui sache qu'il faudrait l'allumer.

Le risque monte avec la précision de la question. Les grandes idées générales, il les a lues mille fois. Une date exacte, un numéro d'article, une référence, un montant, le nom d'une personne peu connue : c'est là qu'il comble. Plus votre question est pointue et rare, plus il faut vérifier.

Ça se soigne, ça ne se guérit pas. Les modèles récents hallucinent moins que ceux d'il y a deux ans. Aucun n'a supprimé le phénomène, et aucun ne le supprimera tant que le mécanisme sera celui-là. Un fournisseur qui vous promet zéro hallucination promet quelque chose qu'il ne contrôle pas.

Comment on s'en protège, concrètement

C'est la partie utile, et elle ne demande aucune compétence technique.

Donnez la source au lieu de la demander. Ne demandez pas « quel est notre délai de paiement ». Joignez le contrat et demandez « que dit ce document sur le délai de paiement ». La différence est énorme : dans le premier cas il invente, dans le second il lit.

Exigez la citation. Une réponse qui indique d'où elle sort — la page, la ligne, le nom du fichier — se vérifie en quelques secondes. Une réponse sans origine ne se vérifie qu'en refaisant tout le travail.

Mettez un arrêt là où l'erreur coûte cher. Un chiffre qui part chez un client, un montant sur une facture, un engagement de délai : ce sont des endroits où une relecture humaine n'est pas un luxe, c'est le prix normal de l'automatisation. Le reste peut passer tout seul.

Préférez extraire à demander. « Trouve dans ce fichier » est une tâche fiable. « Dis-moi de mémoire » est un pari. Le même outil, deux niveaux de confiance complètement différents.

Concrètement, chez vous

Prenons une question que tout le monde pose : combien a-t-on facturé à ce client l'année dernière.

Posée seule, elle appelle un chiffre. Un chiffre arrive. Il est bien formaté, il a l'air raisonnable, et il vient de nulle part. Vous n'avez aucun moyen de savoir s'il est juste sans tout recompter — c'est-à-dire sans refaire exactement le travail que vous vouliez éviter.

Posée avec le fichier des factures joint, elle devient une tout autre question. La réponse arrive avec sa ligne : le montant, le mois, la référence. Vous ouvrez le fichier, vous regardez la ligne, et vous savez. Cinq secondes.

Rien n'a changé dans la machine. Ce qui a changé, c'est que l'erreur est devenue visible. Et une erreur visible n'est plus vraiment un problème : c'est une correction.

C'est le principe à retenir pour tout ce que vous confierez à une IA. On ne la rend pas infaillible. On s'arrange pour que ses erreurs se voient tout de suite, et pour qu'elles ne puissent pas partir toutes seules.

Attention à ce qu'on vous vend sous ce mot

Méfiez-vous de « notre IA n'hallucine pas ». Personne ne peut le garantir. Ce qu'on peut garantir, c'est un dispositif : des sources citées, des points d'arrêt, une trace. Si la réponse à votre question est une promesse et non un dispositif, la promesse ne tiendra pas.

Méfiez-vous d'un taux affiché sans son épreuve. « 99 % de fiabilité » ne veut rien dire tant qu'on ne sait pas sur quelles questions, jugées par qui, et avec quelles données. Demandez à voir les cas ratés. Un fournisseur sérieux en a, et il les montre.

Méfiez-vous de l'outil qui répond toujours. Celui qui sait dire « je ne trouve pas dans les documents que vous m'avez donnés » vaut beaucoup plus cher que celui qui a réponse à tout. C'est même le meilleur signe de qualité qu'on puisse observer en cinq minutes de démonstration.

Méfiez-vous du raccourci « il suffit de mieux formuler ». Une bonne formulation aide, et ne suffit jamais. Aucune tournure de phrase ne donne à un modèle une information qu'il n'a pas.

Et posez celle-ci, qui vaut toutes les garanties du monde :

« Montrez-moi une question à laquelle il refuse de répondre. »

S'il n'en existe aucune, vous ne saurez jamais quand il invente.