Erfundene KI-Quellen: So prüfst du einen Beleg, bevor du ihm vertraust

Das Problem

KI-Modelle können Quellenangaben erzeugen, die echt aussehen: ein glaubhafter Autor, eine Zeitschrift, ein Jahr, sogar ein Link. Manche existieren nicht. Andere existieren, sagen aber nicht, was das Modell behauptet. Beide Fehler lesen sich wie ein korrekter Beleg und werden deshalb leicht übersehen.

Es ist eine Form der KI-Halluzination mit einer konkreten Gefahr: Ein Beleg suggeriert, die Aussage sei geprüft, und senkt so deine Wachsamkeit genau dann, wenn sie steigen sollte.

Drei Arten, wie ein Beleg versagt

1. Erfundene Quelle. Artikel, Buch, Urteil oder Seite existiert nicht.
2. Echte Quelle, falsche Aussage. Die Quelle existiert, die Passage stützt die Behauptung aber nicht oder sagt etwas anderes.
3. Echte Quelle, falsche Details. Der Titel stimmt, aber nicht Autor, Jahr, Seite oder Zahl.

Ein Link behebt das nicht. Ein Modell kann einen toten Link liefern, einen, der woanders hinführt, oder einen, der nur nach einem üblichen URL-Muster geraten ist.

Ein Fünf-Minuten-Check

1. Suche den exakten Titel in Anführungszeichen in einer Suchmaschine oder einer Fachdatenbank (Google Scholar, PubMed, Gericht- oder Gesetzesportal).
2. Öffne die Quelle selbst, nicht eine Zusammenfassung.
3. Finde die konkrete Passage, auf der die Aussage beruht. Steht sie dort, im Kontext?
4. Prüfe die Details: Autor, Jahr, Zeitschrift, Zahl. Falsche Details deuten darauf hin, dass das Modell rekonstruiert statt abgerufen hat.
5. Prüfe Datum und Status. Wurde sie zurückgezogen, ersetzt oder aufgehoben?

Findest du die Quelle in wenigen Minuten nicht, behandle die Aussage als unbelegt statt als „wahrscheinlich richtig“.

Mehrere Modelle als Filter

Ein Panel hilft beim Sortieren. Zitiert ein Modell einen Artikel, den kein anderes erwähnt und der sich nicht finden lässt, ist das ein Signal. Zitieren mehrere dieselbe echte Quelle, und sie stützt die Aussage, hast du eine Spur, die sich zu öffnen lohnt. Das Öffnen der Quelle ersetzt es nicht: Auch Modelle können einen falschen Beleg teilen.

Gewohnheiten, die das Risiko senken

• Bitte um Quellen und die genaue Passage oder das Zitat, und prüfe beides.
• Bevorzuge Modelle und Tools, die Live-Seiten zitieren, die du öffnen und lesen kannst.
• Setze nie einen KI-gelieferten Beleg in Artikel, Schriftsatz oder Bericht, ohne ihn geöffnet zu haben.
• Halte fest, was du wann geprüft hast.

Mit der eigenen Frage ausprobieren

Stelle die Frage, die dir wichtig ist, sechs unabhängigen Modellen und sieh, wo sie übereinstimmen und wo nicht. 6 KIs auf Satcove fragen, kostenlos, ohne Karte.

Häufig gestellte Fragen

Warum erfinden Modelle Quellen? Sie erzeugen statistisch plausiblen Text. Ein Beleg hat eine erkennbare Form, und ein Modell kann die Form erzeugen, ohne einen echten Eintrag abzurufen.

Beweist ein funktionierender Link, dass die Aussage stimmt? Nein. Du musst die Seite öffnen und die Passage im Kontext lesen.

Irren Tools mit Websuche trotzdem? Weniger bei der abgerufenen Seite, aber sie können sie falsch lesen oder zu stark zusammenfassen. Öffne die Quelle.