KI-Halluzinationen: Warum Chatbots mit totaler Sicherheit erfinden

KI-Halluzinationen entstehen, weil Modelle plausiblen statt wahren Text vorhersagen — und den Unterschied nicht spüren. Hier der Grund und deine Verteidigung.

TL;DR

Eine KI lügt nicht, rät nicht, blufft nicht — sie sagt den nächstplausiblen Textabschnitt voraus, und plausibel ist nicht dasselbe wie wahr. Da die Maschine keinen eingebauten Zweifel hat, kommt jede Ausgabe mit derselben ruhigen, sicheren Stimme — weshalb eine erfundene Statistik von einer geprüften nicht zu unterscheiden ist.

Die Analogie

Stell dir den engagiertesten Improvisationsschauspieler der Welt mitten in einer Szene auf der Bühne vor.

Sein Training ist absolut: niemals aus der Rolle fallen. Fragt ein Mitspieler nach einem Cousin, der vor zwei Sekunden erfunden wurde, stottert der Improvisator nicht und protestiert nicht — er liefert eine komplette Biografie für diesen Cousin, mit Geburtsstadt, Lachanfall und Groll, alles spontan erfunden. Frag ihn nach dem Wetter einer fiktiven Stadt, und er gibt dir eine Vorhersage. Das ist kein Betrug. Die Lücke nahtlos zu füllen ist der Job. Die eine unverzeihliche Sünde der Improvisation ist es, innezuhalten, blass zu werden und zu murmeln: „Ich… weiß es eigentlich nicht.“

Ein großes Sprachmodell ist dieser Schauspieler. Die Szene ist deine Konversation, und die Lücke ist alles, wonach du fragst, wo dem Modell kein fester Boden unter den Füßen steht. Es wird nicht zögern, schwitzen oder die Erfindung markieren — Zweifel ist nicht Teil der Vorstellung. Was wir KI-Halluzination nennen, ist schlicht eine Improvisationsszene, bei der das Publikum vergessen hat, dass es Improvisation war: flüssig, sicher, detailreich — und aus Nichts gemacht.

Die grausame Wendung: Die Stimme, die dir eine Wahrheit sagt, und die Stimme, die dir eine Fälschung sagt, sind dieselbe Stimme, mit demselben Tonfall. Es gibt kein verräterisches Anzeichen. Das heißt: Die Verantwortung, Fakten zu prüfen, ist lautlos vom Sprecher auf dich übergegangen.

Wie es funktioniert

Hier ist der Satz, der alles erklärt: Ein Sprachmodell weiß keine Dinge — es sagt Text voraus.

Unter der Haube hat das Modell eine gigantische Menge menschlichen Schreibens gelesen und eine Fähigkeit zur Perfektion gelernt: Was kommt angesichts von allem zuvor mit höchster Plausibilität als Nächstes? Nicht „Was ist wahr?“ — was ist wahrscheinlich, gemäß Mustern. Diese beiden Fragen überschneiden sich ständig, und genau deshalb ist KI wirklich nützlich. Aber sie sind unterschiedliche Ziele, und das Modell optimiert nur für eines.

Beachte, was dieser Maschine fehlt:

Was Leute sich innen vorstellen	Was wirklich innen ist
Eine Fakten-Datenbank zum Nachschlagen	Statistische Muster, wie Wörtern Wörter folgen
Ein Faktenprüfer, der jede Antwort prüft	Nichts — Generieren und Prüfen sind derselbe Akt
Ein Gefühl des Wissens oder des Zweifelns	Kein Gefühl; Sicherheit ist ein Stil, kein Signal
Eine Absicht zu täuschen	Keine Absicht — deshalb ist „lügen“ das falsche Wort

Der selbstbewusste Ton täuscht alle, weil er nicht von Gewissheit erzeugt wird. Er wird von den Trainingsdaten erzeugt: Das Referenzmaterial des Internets ist überwältigend in selbstbewusster Prosa geschrieben, also gibt der Prädiktor selbstbewusste Prosa aus. Der Ton ist Dekoration. Er trägt keine Information über Korrektheit.

Lücken verschlimmern es. Frag nach etwas Berühmtem und gut Dokumentiertem, und die Vorhersagen reisen auf soliden Mustern — du bekommst normalerweise die Wahrheit. Frag nach etwas Obskuren, Nischigem oder Numerischem, und das Modell steht vor dem Cousin des Improvisators: Kein Material existiert, also generiert es das plausibelste Klangmaterial. Und ein überladenes Kontextfenster verstärkt das Problem — wenn deine kritischen Anweisungen längst über den Schreibtischsrand gerutscht sind, füllt das Modell fröhlich um die Lücke herum, statt sie zu bemerken.

Vorher/Nachher (Verteidigung)

Du kannst dem Modell keinen Zweifel einbauen — aber du kannst ihn mieten, mit Anweisungen, die Ehrlichkeit billiger machen als Erfindung:

Beispiel 1 — die Datenanfrage

Wie ist die Telefonnummer der Zahnarztpraxis Blue Harbor in Portland?

Eine Lücke in Telefonnummernform. Das Modell produziert eine Antwort in Telefonnummernform, Ziffer für Ziffer, plausibel bis zum Ende. Sie kann echt sein. Sie kann aus drei Zahnärzten zusammengenäht sein. Die Stimme sagt es dir nicht.

Wie ist die Telefonnummer der Zahnarztpraxis Blue Harbor in Portland? Wenn du nicht sicher bist, sag „ich weiß es nicht“ — rate nicht und konstruiere keine plausible Nummer.

Dieselbe Frage, aber „ich weiß es nicht“ ist jetzt ein erlaubter und eingeladener Zug. Die Vorhersage verschiebt sich vom Stopfen der Lücke zum Eingeständnis.

Beispiel 2 — die Forschungszusammenfassung

Fasse die Forschung zu Morgenlicht und Schlafqualität zusammen.

Es kommt eine flüssige Zusammenfassung, die echte Befunde möglicherweise mit selbstbewusstem Füllstoff mischt — unmarkiert und ununterscheidbar.

Fasse die Forschung zu Morgenlicht und Schlafqualität zusammen. Zitiere die konkreten Studien, auf die du dich stützt. Füge nach der Zusammenfassung einen Abschnitt „Wessen ich mir nicht sicher bin“ hinzu, der alle Aussagen listet, die du keiner zitierten Studie zuordnen kannst.

Jetzt muss sich die Erfindung deklarieren. Erfundene Zitate bleiben möglich — prüfe sie —, aber das Format zwingt das Modell, seine eigenen Schwachstellen offenzulegen, statt sie zu begraben.

Beispiel 3 — das Präzisionsschild

Schreib was über Marketing.

Eine weite, vage Einladung — die breiteste Lücke, die der Prädiktor mit generischem Füllstoff stopfen kann.

Verfasse einen 150-Wörter-LinkedIn-Post, der den neuen Samstag-Shift unserer Bäckerei ankündigt, warmer Ton, maximal ein Emoji, endend mit einer Einladung vorbeizuschauen. Falls dir ein Detail zur Bäckerei unbekannt ist, lass ein [PLATZHALTER IN KLAMMERN] statt es zu erfinden.

Das ist der One-Shot-Prompt mit seinem anderen Hut: Präzision als Verteidigungsmechanismus. Ein enger Rahmen lässt dem Modell weniger Raum, Richtung Erfindung abzudriften, und die Klammer-Regel gibt dem Improvisator einen sicheren Ausstieg — eine sichtbare Lücke lassen, die du selbst füllst.

Häufige Fehler

Dem Ton vertrauen statt dem Text. Flüssige, sichere, wunderschön strukturierte Prosa ist eine Aussage über die Trainingsdaten, nicht über Fakten. Beurteile die Aussagen, niemals die Lieferung.
Suggestive Fragen stellen. „Warum kehrt Selleriesaft das Altern um?“ setzt die Schlussfolgerung voraus — und der Prädiktor, immer gefällig, wird Gründe dafür generieren. Frag „Gibt es Belege, dass…?“ und lass die Antwort sich verdienen.
Details verlangen, die das Modell nicht haben kann. Exakte Zahlen, Zitate, Referenzen, URLs und alles über obskure Personen oder aktuelle Ereignisse — dort konzentriert sich die Erfindung. Behandle jedes davon als auszufüllende Lücke, bis geprüft.
Den ersten Entwurf bei Hochrisiko-Daten akzeptieren. Namen, Daten, Statistiken, juristische oder medizinische Aussagen, Preise: Prüfe sie jedes Mal gegen eine echte Quelle, egal wie autoritativ der Satz klang. Die Prüfung kostet Sekunden; ihre Unterlassung wird öffentlich.
Ehrlichkeit bestrafen. Wenn du über ein „ich weiß es nicht“ knurrst, lernt die Konversation die Lektion — die nächsten Antworten tendieren zur sicheren Mutung, weil du genau das belohnt hast. Danke dem Modell für eingestandene Lücken, und es räumt mehr ein.

Häufige Fragen

Warum lügt die KI?

Sie lügt nicht — nicht im menschlichen Sinne, denn Lügen erfordert Absicht, und ein Sprachmodell hat keine. Es generiert die plausibelste Fortsetzung deiner Konversation, und wenn die Wahrheit in seinen Mustern nicht verfügbar ist, füllt Plausibilität die Lücke nahtlos. Das Ergebnis sieht aus wie eine Lüge — deshalb ist der technische Begriff der gnädigere: Halluzination.

Was ist eine KI-Halluzination?

Eine Halluzination ist jede flüssige, selbstbewusste, aber faktisch falsche oder komplett erfundene Ausgabe — eine erfundene Statistik, ein falsches Zitat, eine plausible Biografie für eine Person, die nicht existiert. Sie entsteht, weil das Modell auf wahrscheinlichen statt geprüften Text optimiert und keinen inneren Alarm besitzt, der beides unterscheidet.

Wie bringe ich die KI zum Aufhören mit Erfinden?

Komplett verhindern kannst du es nicht — es ist die Natur der Maschine —, aber drastisch reduzieren: Lade das „ich weiß es nicht“ ausdrücklich ein, fordere Zitate und einen Unsicherheits-Abschnitt, nutze präzise One-Shot-Prompts, die den Erfindungsraum verengen, halte das Kontextfenster sauber, damit deine Einschränkungen sichtbar bleiben, und prüfe jede spezifische Aussage selbst. Verteidigung ist eine Gewohnheit, keine Einstellung.

Nächste Lektion

Hier ist die stille Erkenntnis in all dem: Dieselbe Waffe, die Halluzinationen schlägt, macht auch jede Antwort billiger, schärfer und leichter nutzbar. Das „ich weiß es nicht“ einzuladen ist nur eine Variante einer breiteren Macht — der KI vor dem Reden genau zu sagen, welche Form die Antwort haben soll. Rahmen und Format sind die zwei Regler, die Anfänger nie anfassen — und die zwei, die alles verändern.

Weiter zur nächsten Lektion: Rahmen Begrenzen und Formate Erzwingen

Praktische Übung vor dem Weiterklicken: Frag deine KI nach etwas wirklich Obskuren — zweimal. Erst simpel, dann mit „wenn du nicht sicher bist, sag es — rate nicht“. Vergleiche die Antworten und lass dir bewusst werden, dass sie exakt gleich sicher klingen.