Einfach erklärt · Frei lesbar · 4 Min. Lesezeit

KI-Halluzination einfach erklärt: Warum KI Dinge erfindet und wie du Antworten prüfst

Eine KI-Halluzination ist eine falsche Angabe, die ein Chatbot so überzeugend formuliert, als wäre sie wahr, zum Beispiel ein falsches Datum, ein erfundenes Zitat oder eine Quelle, die es gar nicht gibt. Sie entsteht, weil Sprachmodelle wahrscheinliche Wörter aneinanderreihen. Eine Studie von OpenAI erklärt einen Teil des Problems zudem damit, dass verbreitete Trainings- und Bewertungsverfahren Raten eher belohnen als ein ehrliches „Ich weiß es nicht“. Wie oft das passiert, hängt stark von Aufgabe und Modell ab: In einer großen Studie europäischer Rundfunkanstalten hatten 45 Prozent der Antworten auf Nachrichtenfragen mindestens ein erhebliches Problem. Wichtige Angaben solltest du deshalb immer an der Originalquelle prüfen (Stand Oktober 2026).

Veröffentlicht am 11. Oktober 2026

Kurz gesagt

KI-Halluzination: Eine KI-Halluzination ist eine falsche oder erfundene Angabe, die ein KI-Chatbot so selbstsicher formuliert, als wäre sie wahr, etwa ein falsches Datum, ein erfundenes Zitat oder eine Quelle, die es nicht gibt.^1,2,4; Beispiel: Du fragst einen Chatbot nach einem Buch über die Geschichte deines Heimatorts. Er nennt Titel, Autor und Verlag, doch als du in der Bücherei nachfragst, stellt sich heraus: Dieses Buch gibt es gar nicht.; Auch genannt: Halluzination · KI erfindet Quellen · erfundene Fakten · AI hallucination

Was mit Halluzination gemeint ist

Wenn Fachleute sagen, eine KI halluziniert, meinen sie: Sie gibt eine Antwort, die sachlich falsch ist, aber selbstsicher klingt. OpenAI nennt in seiner Hilfe typische Beispiele: falsche Definitionen, Daten oder Fakten, erfundene Zitate, Studien oder Quellenangaben und übertrieben sichere Antworten auf mehrdeutige Fragen.

Mit Sinnestäuschungen beim Menschen hat das wenig zu tun, wie auch die Forschenden von OpenAI betonen. Der Begriff hat sich trotzdem eingebürgert.

Die Verbraucherzentrale weist darauf hin, dass die Antworten von Chatbots nicht auf Richtigkeit geprüft werden. Sie können ungenau, unvollständig oder unpassend sein und ersetzen keine verlässliche Quelle oder fachliche Beratung.

Warum KI Dinge erfindet

Ein Sprachmodell lernt aus riesigen Textmengen, welches Wort wahrscheinlich als Nächstes kommt. Dabei sieht es nur flüssig geschriebene Sätze, aber keine Markierung, ob eine Aussage stimmt oder nicht. Häufige Zusammenhänge kann es so gut nachbilden. Seltene Einzelheiten, etwa den Geburtstag einer wenig bekannten Person, kann es aus solchen Mustern nicht zuverlässig ableiten.

Hinzu kommt nach einer Studie von OpenAI vom September 2025 ein zweiter Grund: Die meisten Tests, mit denen Modelle bewertet werden, zählen nur richtige Antworten. Das ist wie bei einer Multiple-Choice-Prüfung, bei der Raten Punkte bringen kann, „Ich weiß es nicht“ aber nie. OpenAI rechnet vor: Wer einen unbekannten Geburtstag einfach rät, liegt mit einer Chance von 1 zu 365 richtig. Modelle werden so dazu erzogen, lieber zu raten als zuzugeben, dass sie etwas nicht wissen.

Außerdem kennt ein Modell nur Wissen bis zu einem bestimmten Stichtag, solange es nicht im Internet sucht. Und laut OpenAI bedeutet eine selbstsichere Formulierung nicht, dass die Antwort stimmt.

Wie oft das passiert: drei Messungen mit Datum

Eine einzige Fehlerquote für alle Chatbots gibt es nicht. Die Zahlen hängen stark davon ab, was getestet wird. Drei Beispiele zeigen die Spannweite.

Nachrichten: In einer Studie, die die Europäische Rundfunkunion (EBU) am 22. Oktober 2025 veröffentlichte, prüften 22 öffentlich-rechtliche Sender aus 18 Ländern, darunter ARD, ZDF und Deutsche Welle, mehr als 3000 Antworten von ChatGPT, Copilot, Gemini und Perplexity. 45 Prozent hatten mindestens ein erhebliches Problem. 31 Prozent hatten ernste Mängel bei den Quellenangaben, 20 Prozent größere sachliche Fehler, darunter erfundene Details und veraltete Informationen.

Zusammenfassungen: Das Unternehmen Vectara misst, wie oft Modelle beim Zusammenfassen von Texten etwas hinzudichten, obwohl der Text vorliegt. Dafür nutzt es über 7700 Artikel mit etwa 50 bis 24.000 Wörtern. In der Rangliste vom 22. September 2026 reichen die Werte je nach Modell von 1,8 bis 24,2 Prozent. Einschränkung: Die Bewertung macht kein Mensch, sondern automatisch Vectaras eigenes Prüfmodell HHEM-2.3.

Wissensfragen: OpenAI selbst berichtet aus einem Test mit schwierigen Faktenfragen, dass ein älteres Modell in 75 Prozent der Fälle falsch lag, ein neueres mit Denkmodus in 26 Prozent, weil es in gut der Hälfte der Fälle lieber gar keine Antwort gab. Das sind Herstellerangaben.

Unsere Einordnung: Die Zahlen lassen sich nicht direkt vergleichen. Sie zeigen aber, dass Fehler auch bei aktuellen Modellen regelmäßig vorkommen.

So prüfst du Antworten im Alltag

OpenAI rät, eine Chatbot-Antwort als ersten Entwurf zu sehen und nicht als endgültige Quelle. Zitate, Zahlen, technische Angaben und Verweise auf Dokumente solltest du immer prüfen. Lass den Chatbot im Internet suchen und öffne die angegebenen Links selbst. Steht dort wirklich, was der Chatbot behauptet? Gibt es die Seite überhaupt? Die EBU-Studie zeigt, dass gerade Quellenangaben oft fehlen oder in die Irre führen.

Die Verbraucherzentrale empfiehlt, Informationen zu bewerten, bevor du sie verwendest oder weitergibst. Bei Nachrichten und Behauptungen helfen Faktencheck-Portale, bei denen Journalistinnen und Journalisten Meldungen prüfen. Die tagesschau rät, bei Nachrichten auf etablierte Medien zu setzen und bei Politik, Gesundheit und Geldfragen besonders vorsichtig zu sein.

Du kannst Halluzinationen auch vorbeugen. Anthropic empfiehlt, der KI ausdrücklich zu erlauben, „Ich weiß es nicht“ zu sagen. Wenn du einen eigenen Text hochlädst, kannst du die KI bitten, ihre Aussagen mit wörtlichen Stellen aus diesem Text zu belegen. Findet sie keine passende Stelle, sollte sie die Aussage streichen.

Quellen

KI-gestützt erstellt und vor der Veröffentlichung redaktionell freigegeben.