Le problème
Les modèles d'IA peuvent produire des citations qui semblent réelles : un auteur plausible, une revue, une année, même un lien. Certaines n'existent pas. D'autres existent mais ne disent pas ce que le modèle prétend. Les deux défauts ressemblent à une citation correcte, ce qui les rend faciles à manquer.
C'est une forme d'hallucination de l'IA au danger particulier : une citation laisse croire que l'affirmation a été vérifiée, donc elle baisse votre garde exactement quand il faudrait la lever.
Trois façons dont une citation déraille
- Source inventée. L'article, le livre, la décision ou la page n'existe pas.
- Vraie source, mauvaise affirmation. La source existe, mais le passage ne soutient pas l'énoncé, ou dit autre chose.
- Vraie source, mauvais détails. Le titre est bon mais pas l'auteur, l'année, la page ou le chiffre.
Un lien n'y change rien. Un modèle peut produire un lien cassé, qui mène à autre chose, ou simplement deviné à partir d'un format d'URL courant.
Un contrôle en cinq minutes
- Recherchez le titre exact entre guillemets dans un moteur de recherche ou une base du domaine (Google Scholar, PubMed, le site de la juridiction ou de la législation).
- Ouvrez la source elle-même, pas un résumé.
- Trouvez le passage précis sur lequel repose l'affirmation. Le dit-il, dans son contexte ?
- Contrôlez les détails : auteur, année, revue, chiffre. Des détails faux signalent que le modèle a reconstitué plutôt que retrouvé.
- Contrôlez la date et le statut. A-t-elle été rétractée, remplacée ou annulée ?
Si vous ne trouvez pas la source en quelques minutes, considérez l'affirmation comme non étayée plutôt que « probablement vraie ».
Utiliser plusieurs modèles comme filtre
Un panel aide au tri. Si un modèle cite un article qu'aucun autre ne mentionne et qu'on ne le trouve pas, c'est un signal. Si plusieurs modèles citent la même vraie source et qu'elle soutient l'affirmation, vous avez une piste à ouvrir. Cela ne remplace pas l'ouverture de la source : les modèles peuvent aussi partager une mauvaise citation.
Habitudes qui réduisent le risque
- Demandez des sources et le passage ou la citation exacte, puis contrôlez-les.
- Préférez les modèles et outils qui citent des pages en direct que vous pouvez cliquer et lire.
- Ne mettez jamais une citation fournie par l'IA dans un article, un dossier ou un rapport sans l'avoir ouverte.
- Gardez une trace de ce que vous avez vérifié et quand.
Essayez sur votre propre question
Posez la question qui vous importe à six modèles indépendants et voyez où ils s'accordent et où ils divergent. Interroger 6 IA sur Satcove, gratuit, sans carte bancaire.
Questions fréquentes
Pourquoi les modèles inventent-ils des sources ? Ils génèrent du texte statistiquement plausible. Une citation a une forme reconnaissable, et un modèle peut produire la forme sans retrouver un vrai enregistrement.
Un lien qui fonctionne prouve-t-il que l'affirmation est juste ? Non. Il faut ouvrir la page et lire le passage dans son contexte.
Les outils avec recherche web se trompent-ils encore ? Moins souvent sur la page qu'ils ont récupérée, mais ils peuvent la mal lire ou la résumer à l'excès. Ouvrez la source.