Réponse en 60 secondes
L'hallucination IA est le moment où un modèle de langage produit un contenu grammaticalement parfait, au ton confiant, et factuellement faux — citations inventées, décisions de justice inexistantes, médicaments fictifs, statistiques fabriquées, citations apocryphes. Le modèle ne ment pas. Il fait exactement ce pour quoi il a été entraîné : générer le texte qui semble le plus plausible. La plausibilité et la vérité coïncident la plupart du temps. Quand elles divergent, vous obtenez une hallucination.
Une hallucination est dangereuse précisément parce que rien dans la sortie du modèle ne signale que ce paragraphe-ci est faux alors que les autres sont justes. Le ton est uniforme. Attraper une hallucination n'est donc pas une question de lire plus attentivement. Cela nécessite une vérification externe — un second raisonneur indépendant qui produit la même réponse via un chemin différent. Quand les chemins concordent, la probabilité d'une hallucination conjointe chute brutalement. Quand ils divergent, vous avez un signal qu'il vaut la peine de vérifier avant d'agir.
Une définition formelle
Dans la littérature technique, une hallucination IA est une sortie non fondée — non étayée par les données d'entraînement, non dérivable de l'entrée, et non ancrée dans le monde réel — pourtant produite avec la même fluidité et la même confiance qu'une sortie bien fondée.
C'est distinct de trois modes d'échec parfois regroupés sous le même mot.
Une erreur survient lorsqu'un modèle répond à une question clairement posée par une mauvaise réponse qui découle d'une mauvaise lecture de l'entrée. Le modèle a compris les données ; il a juste mal calculé. Les erreurs peuvent être rattrapées en relançant avec un prompt plus clair.
Une lacune de connaissances survient lorsque le modèle ne sait honnêtement pas — par exemple, lorsqu'on l'interroge sur un événement postérieur à sa date de fin d'entraînement. La réponse bien calibrée est « je ne sais pas » ; la réponse mal calibrée est de deviner. Deviner sous une lacune de connaissances peut ressembler à une hallucination mais c'est structurellement différent : le modèle a été invité à inventer.
Un désaccord avec l'utilisateur survient lorsque le modèle produit une réponse vraie que l'utilisateur n'aime pas, et que l'utilisateur l'étiquette comme « fausse ». Ce n'est pas une hallucination au sens technique.
L'hallucination au sens propre est le cas où le modèle n'a aucun fondement épistémique réel pour ce qu'il dit, et le dit pourtant avec la même autorité que tout le reste. La sortie est intérieurement cohérente, grammaticalement impeccable, et ne porte aucune marque de surface qu'elle est non fondée. C'est la propriété définitoire.
Le terme lui-même est emprunté à la perception humaine — une hallucination est quelque chose que celui qui perçoit vit avec intensité et qui n'a aucune réalité correspondante. L'analogie est imparfaite (les modèles ne « perçoivent » pas) mais l'intuition se transfère : l'utilisateur lit quelque chose qui semble réel et ne l'est pas.
Pourquoi les modèles de langage hallucinent
Pour comprendre comment attraper les hallucinations, il faut comprendre pourquoi elles arrivent. Le mécanisme n'est pas un bug. C'est le modèle qui fait exactement ce pour quoi son entraînement l'a optimisé.
Un grand modèle de langage moderne est entraîné sur un vaste corpus de texte avec un objectif principal unique : prédire le mot suivant étant donné tout ce qui précède. Cet objectif récompense la plausibilité — les sorties qui correspondent aux schémas des données d'entraînement. Il ne récompense pas directement la vérité. Le processus d'entraînement n'a pas d'oracle qui puisse dire au modèle « cette phrase est vraie » et « celle-ci est fausse » à grande échelle. Ce qu'il a, à la place, c'est « ce schéma de phrase est courant dans le corpus ».
Pour la plupart des questions, la plausibilité et la vérité coïncident. Le corpus d'entraînement est vaste, la réponse est bien attestée, le modèle interpole correctement. C'est pourquoi les modèles de langage sont utiles si souvent. Le mode d'échec intéressant survient lorsque la plausibilité et la vérité divergent.
Cette divergence est la plus prononcée sous quatre conditions.
La première est la spécificité qui dépasse les données. Demandez à un modèle une référence de cas précise, une interaction médicamenteuse précise, une date historique précise — et le modèle puisera dans une réponse à l'apparence plausible même quand la connaissance sous-jacente est mince. Le corpus d'entraînement contient des millions de phrases ayant la forme d'une citation ; en produire une est facile. Produire une vraie citation, vérifiable, exige un type d'ancrage différent que le modèle n'a pas toujours.
La deuxième est la longue traîne du savoir. Les sujets courants sont fortement représentés dans les données d'entraînement et répondus correctement. Les sujets rares sont rarement représentés et répondus avec une confiance de surface qui déguise une compréhension peu profonde. Langues minoritaires, réglementations de niche, développements récents, contextes culturels minoritaires — tous se situent plus loin sur cette longue traîne et tous attirent des taux d'hallucination plus élevés.
La troisième est la pression à être utile. Les modèles sont typiquement entraînés avec un signal de récompense qui pénalise les réponses comme « je ne sais pas » et récompense les réponses engagées et substantielles. C'est surtout désirable — vous voulez un modèle qui essaie sincèrement. Mais cela fait pencher la balance vers la spéculation lorsque l'incertitude honnête serait la bonne sortie.
La quatrième est le cadrage du prompt qui présume que la réponse existe. Si vous demandez « quel est le nom de la cour qui a tranché sur X ? », le modèle traite l'existence d'une telle cour comme établie par la question et produit un nom plausible. Le modèle coopère avec l'hypothèse intégrée au prompt, même quand l'hypothèse est fausse.
Le point n'est pas que les modèles actuels sont mal entraînés. Le point est que l'architecture et l'objectif des modèles de langage rendent un taux d'hallucination non nul inhérent, pas accidentel. Aucun fine-tuning ne l'élimine. On peut le réduire ; on ne peut pas l'éliminer par argumentation.
Pourquoi un seul modèle ne peut pas attraper ses propres hallucinations de façon fiable
L'impulsion naturelle est de demander au modèle de se vérifier lui-même. C'est séduisant et ça ne fonctionne pas.
Quand un modèle de langage produit une affirmation hallucinée, la même surface statistique qui a produit l'affirmation tendra à produire une auto-confirmation confiante lorsqu'on lui demande « êtes-vous sûr ? ». Le modèle n'a aucun mécanisme interne pour distinguer une affirmation bien fondée d'une affirmation à l'apparence plausible. Le signal de certitude est cohérent à travers les deux types de sortie.
Demander au même modèle de se « vérifier » est donc principalement théâtral. Vous obtiendrez une reformulation polie de la réponse originale avec des expressions ajoutées comme « d'après mes données d'entraînement » ou « selon des sources établies » — des expressions que le modèle a appris à associer à des réponses qui semblent crédibles, indépendamment du fait que l'affirmation originale était solide ou non.
Quelques techniques spécifiques améliorent modestement l'auto-vérification :
La cohérence interne (self-consistency) invoque le modèle plusieurs fois avec échantillonnage et regarde l'accord entre les échantillons. Cela attrape certaines hallucinations parce que la réponse fausse-mais-plausible varie davantage entre les échantillons que la bonne réponse. Mais elle partage les angles morts du modèle : un sujet où chaque échantillon est uniformément faux ressemblera à un accord cohérent.
Le raisonnement étape par étape (chain-of-thought) demande au modèle de raisonner pas à pas. Cela améliore les performances sur les problèmes logiques mais ne traite pas les hallucinations factuelles, parce que les étapes elles-mêmes peuvent être hallucinées au même titre que la conclusion.
La génération augmentée par récupération (RAG) ancre le modèle dans des documents externes. C'est véritablement efficace lorsque la récupération trouve les bons documents et que le modèle est honnête sur ce qu'ils disent. C'est beaucoup moins efficace lorsque la récupération échoue (le modèle se rabat sur la plausibilité des données d'entraînement) ou lorsque le modèle cite sélectivement de façon trompeuse les documents récupérés.
Aucune de ces techniques ne résout le problème sous-jacent : la notion de confiance d'un modèle de langage est calibrée par rapport à la fluidité, pas par rapport à la vérité externe. L'architecture ne peut pas, par elle-même, effectuer la vérification externe.
C'est pourquoi la résistance à l'hallucination est fondamentalement un problème de systèmes, pas un problème de modèle. La solution vient de l'extérieur du modèle — de la comparaison avec d'autres modèles, de la comparaison avec des sources autoritatives, ou de la comparaison avec un expert humain.
Comment le consensus multi-modèles attrape les hallucinations
Si un seul modèle ne peut pas détecter de façon fiable ses propres hallucinations, la question devient : qu'est-ce qui le peut ?
Le consensus multi-modèles est la réponse la plus pratique qui passe à l'échelle. Le principe est simple et l'implémentation plus exigeante.
Le principe : des modèles différents produits par des organisations différentes sur des données d'entraînement différentes hallucineront différemment. Une hallucination est, par définition, une sortie que le modèle a inventée par plausibilité. La surface de plausibilité diffère entre modèles parce que leurs surfaces d'entraînement diffèrent. La probabilité que deux modèles authentiquement indépendants inventent la même affirmation fausse-mais-plausible au même moment est bien plus faible que la probabilité qu'un seul l'invente seul.
C'est exactement la structure qui rend le consensus efficace contre l'hallucination. Quand cinq ou six modèles indépendants convergent sur la même affirmation spécifique — même nom de médicament, même décision de justice, même statistique — la chance qu'ils aient tous les cinq halluciné indépendamment de la même manière chute brutalement. Quand ils divergent — modèle A dit X, modèle B dit Y, modèle C dit que cela n'existe pas — vous avez un signal que l'affirmation originale méritait davantage de vérification avant que vous n'agissiez dessus.
L'implémentation doit faire attention à trois pièges qui détruisent l'efficacité.
Piège un : la fausse indépendance. Deux modèles de la même famille ou entraînés sur des corpus largement chevauchants partageront leurs hallucinations. Leur accord n'est pas une preuve ; c'est une erreur corrélée. Un consensus signifiant utilise des modèles de lignées authentiquement différentes.
Piège deux : la comparaison de surface. Si le système de consensus ne compare que la surface lexicale des réponses, il manquera l'accord sémantique (même affirmation, mots différents) et sur-comptera l'accord lexical (mêmes mots, sens différents). La comparaison doit se faire au niveau des affirmations extraites de chaque réponse.
Piège trois : le désaccord caché. Un système de consensus qui résume en éclipsant le désaccord se sabote lui-même. Le désaccord est le signal que l'utilisateur a besoin de voir. Une sortie de consensus bien conçue le préserve.
Quand les trois pièges sont évités, un consensus multi-modèles attrape une part significative des hallucinations d'un modèle unique — pas en les détectant isolément, mais en les faisant apparaître comme des points de désaccord que l'utilisateur peut investiguer.
C'est la raison structurelle pour laquelle « demander à plusieurs IA et comparer » est plus qu'une formule marketing. C'est la seule façon pratique pour un système externe de marquer la frontière entre ce que les modèles savent collectivement et ce que l'un d'entre eux est en train d'inventer.
Quand l'hallucination compte le plus
L'hallucination n'est pas uniformément dangereuse. Le coût dépend de ce que l'utilisateur fait de la mauvaise réponse.
Dans un usage à faibles enjeux — rédiger un message décontracté, faire un brainstorming, résumer un long document pour usage personnel — un détail halluciné est principalement un petit désagrément. L'utilisateur est le seul concerné et les conséquences d'une erreur non détectée sont bornées.
Dans un usage à forts enjeux, l'hallucination s'accumule.
Pour les questions de santé, une interaction médicamenteuse hallucinée, une association symptôme-maladie fabriquée, ou une posologie inventée peut conduire à une mauvaise décision d'auto-prise en charge ou à une mauvaise question posée à un clinicien. L'hallucination dans ce domaine a historiquement conduit à des préjudices documentés.
Pour les questions juridiques, la forme d'hallucination la mieux documentée implique des références de cas fabriquées : noms de tribunaux qui existent, noms de juges qui existent, mais cas qui n'existent pas. Un utilisateur qui s'appuie sur ces références pour un dépôt ou un argument dans un contrat peut faire face à des conséquences professionnelles directes.
Pour les questions financières, l'hallucination tend à prendre la forme de statistiques inventées — rendements historiques inventés, chiffres de rendement fictifs, références réglementaires fabriquées. Celles-ci sont particulièrement dangereuses parce que le format semble factuel et autoritaire.
Pour les travaux de recherche et académiques, l'hallucination apparaît le plus souvent sous forme de références inventées — titres d'articles inexistants, auteurs qui n'ont jamais co-signé, revues qui n'ont jamais publié l'article. La sortie est structurellement identique à une vraie liste de références, et seule la vérification contre la littérature réelle révèle quelles entrées sont fictives.
Pour le journalisme et la recherche d'information, l'hallucination peut produire des citations fabriquées attribuées à de vraies personnes, des chronologies d'événements inventées, et des attributions erronées confiantes. Les dommages de publier l'une de ces choses sont réputationnels et parfois juridiques.
Le fil conducteur est que l'hallucination est la plus coûteuse précisément là où l'utilisateur est le moins équipé pour vérifier la sortie indépendamment. Un spécialiste peut repérer une interaction médicamenteuse hallucinée ; un profane ne le peut pas. Un avocat en exercice peut repérer une fausse citation ; le grand public ne le peut pas. L'asymétrie entre la sortie confiante du modèle et la capacité du lecteur à la vérifier est le risque central.
Comment réduire le risque d'hallucination en pratique
Au-delà d'utiliser un consensus multi-modèles, l'utilisateur peut adopter plusieurs habitudes qui réduisent la probabilité d'agir sur une hallucination.
Demandez les sources, à chaque fois que la réponse compte. Un modèle qui ne peut pas ou ne veut pas nommer une source pour une affirmation spécifique est, sur cette affirmation spécifique, moins fiable. Si des sources sont fournies, vérifiez au moins une avant de vous fier à la chaîne.
Traitez les chiffres précis comme le contenu le plus à risque. Dates, pourcentages, numéros d'articles, doses de médicaments, noms de cas — tout ce qui a la texture de l'autorité — sont la surface la plus courante de l'hallucination. Traitez les spécificités avec plus de scepticisme que les cadrages généraux.
Reposez la question dans un autre cadrage. Si un modèle vous a donné une affirmation confiante, reposez la même question avec l'hypothèse inversée. Les réponses hallucinées se contredisent souvent silencieusement par rapport à leur propre version antérieure sur le même sujet.
Utilisez un consensus multi-modèles pour les décisions que vous ne reviendriez pas en arrière. C'est l'habitude la plus impactante. Tout ce qui a des conséquences sanitaires, juridiques, financières ou réputationnelles mérite le second avis qui vient de la comparaison de raisonneurs indépendants.
Apportez la sortie IA à un expert humain pour le dernier kilomètre. Surtout dans les domaines régulés. L'IA fait le travail préparatoire — complet, large, rapide. L'humain fait la certification — étroite, profonde, responsable.
Idées reçues courantes
« Les modèles modernes n'hallucinent plus. » Ils hallucinent moins qu'il y a deux ans sur les questions courantes. Ils hallucinent encore sur les questions de longue traîne, sur les affirmations factuelles très spécifiques, et sous des cadrages de prompt qui présupposent que la réponse existe. Le taux a chuté ; il n'est pas nul.
« Si le modèle inclut une citation, la citation est vraie. » Pas nécessairement. Les citations hallucinées sont l'un des modes d'échec les plus courants et les mieux documentés. Un modèle produira un nom de revue plausible, une liste d'auteurs plausible, et une année plausible. Seule la vérification contre la vraie revue prouve la citation réelle.
« Le modèle me préviendra quand il n'est pas sûr. » Les modèles préviennent de façon inégale. Certains ont été entraînés à signaler l'incertitude ; beaucoup produisent des réponses au ton confiant indépendamment de la confiance réelle. L'absence d'une nuance dans la sortie est une preuve faible que la sortie est ancrée.
« L'hallucination n'affecte que les faits. Le raisonnement va bien. » Le raisonnement peut aussi être halluciné — un modèle peut produire une chaîne d'étapes d'inférence à l'apparence plausible qui mènent à une conclusion fausse. Attraper l'hallucination au niveau du raisonnement est plus difficile, pas plus facile, qu'attraper l'hallucination factuelle, parce que la surface a l'air plus compétente.
« Un modèle plus gros hallucine moins. » Les modèles plus gros hallucinent moins par tentative en moyenne. Ils n'hallucinent pas zéro, et sur les sujets de longue traîne où l'hallucination compte le plus, l'amélioration des plus gros modèles a historiquement été plus petite que l'amélioration sur les sujets courants.
Concepts apparentés
Le consensus IA est la pratique plus large dont la résistance à l'hallucination est une application. La vérification multi-modèles est l'ingénierie consistant à exécuter plusieurs modèles indépendants pour attraper les hallucinations comme des désaccords. Le fact-checking IA est l'usage spécifique du consensus pour vérifier des affirmations individuelles. Le score d'accord IA est la lecture quantitative de la portion de la sortie commune exempte d'hallucination. La confiance IA est le cadrage utilisateur de pourquoi la résistance à l'hallucination compte au moment de la décision.
Questions fréquentes
Pourquoi le terme « hallucination » est-il utilisé pour cela ? L'analogie est avec la perception humaine de quelque chose de vif qui n'a aucune correspondance réelle. Une sortie de modèle qui est fluide et confiante mais n'a aucun fondement épistémique sous-jacent épouse la même forme. Le terme est imparfait mais il est resté parce qu'il capture la vivacité de la mauvaise réponse.
L'hallucination peut-elle être éliminée entièrement ? Non. Le mécanisme qui rend les modèles de langage utiles — générer du texte plausible à partir de schémas appris — est le même mécanisme qui produit les hallucinations sur la longue traîne. Le taux peut être réduit par un meilleur entraînement, un ancrage par récupération, et une vérification externe. Il n'atteint pas zéro.
À quel point l'hallucination est-elle fréquente dans les modèles actuels ? Les taux varient selon le modèle, selon le sujet, et selon le cadrage de la question. Sur les questions courantes, les modèles modernes de frontière hallucinent une petite fraction du temps. Sur les requêtes factuelles spécifiques — citations, statistiques, événements récents — les taux augmentent. Sur les sujets de longue traîne, les taux peuvent être élevés même dans les meilleurs modèles. Il n'y a pas un chiffre unique qui capture l'ensemble du tableau.
Le consensus est-il suffisant ? Pour la plupart des décisions, oui. Il attrape la majorité des hallucinations d'un seul modèle en les faisant apparaître comme des désaccords. Pour les décisions d'envergure professionnelle — médicales, juridiques, financières — le consensus est le point de départ, et un expert humain est le point d'arrivée.
Comment savoir si une réponse spécifique a été hallucinée ? Le test unique le plus fiable : demandez la source, et vérifiez la source directement. Si le modèle ne peut pas produire une source, traitez l'affirmation comme non vérifiée. Si la source qu'il produit n'existe pas, l'affirmation est à risque élevé d'avoir été hallucinée.