Halluzination
Definition
Eine Halluzination ist eine plausibel klingende, aber falsche oder frei erfundene Aussage eines Sprachmodells - ausgegeben mit derselben Selbstsicherheit wie eine korrekte Antwort, ohne Warnsignal.
Ein Sprachmodell sagt nicht die Wahrheit, es sagt das Wahrscheinliche. Wo ihm Wissen fehlt, füllt es die Lücke mit dem sprachlich Passendsten. Das Ergebnis liest sich flüssig und souverän, kann aber erfunden sein - eine falsche Rechtsauskunft klingt exakt so überzeugend wie eine korrekte. Halluzination ist deshalb kein Bug, den man wegprogrammiert, sondern eine Eigenschaft der Technologie, die man einrahmen muss.
Beherrschbar wird das Risiko durch mehrere Mittel zusammen: Grounding bindet Antworten an Quellen, Guardrails prüfen Ein- und Ausgaben, LLM-as-a-Judge kontrolliert in der Breite, und systematische Evaluation macht die Fehlerquote messbar. Der Wissens-Artikel „Wann halluziniert Ihre KI?“ führt das aus.
In der Praxis
Ein Sanitärgroßhändler beantwortet Produktfragen im Kundenservice
Ein Großhändler für Sanitärtechnik mit rund 250 Mitarbeitenden gibt seinem Innendienst einen Assistenten an die Hand, der Fragen zu Katalogartikeln beantwortet: Maße, Anschlussarten, Ersatzteile, Nachfolgeprodukte. In den ersten Wochen sank die Bearbeitungszeit sichtbar. Dann meldete ein Kunde eine Reklamation, weil ihm eine Verschraubung als kompatibel bestätigt worden war, die es in dieser Kombination nie gab.
Die Rekonstruktion zeigte das typische Muster: Zu diesem Artikel gab es im Katalog keine Angabe zur Kompatibilität. Das Modell ließ die Lücke nicht offen, sondern füllte sie mit dem, was bei ähnlichen Artikeln stimmt. Die Antwort war sprachlich einwandfrei, fachlich falsch und ohne jedes Warnsignal - genau deshalb hatte sie niemand hinterfragt.
Die Korrektur lag nicht im Modell, sondern in der Konstruktion drumherum. Antworten werden seither nur noch aus konkreten Katalogeinträgen gebildet und mit Artikelnummer und Fundstelle ausgegeben. Findet sich keine Angabe, lautet die Antwort ausdrücklich „dazu liegt keine Angabe vor“ mit Weiterleitung an die Produktbetreuung. Zusätzlich prüft der Innendienst wöchentlich eine Stichprobe von zwanzig Antworten gegen den Katalog - das ist der Messwert, an dem das Team erkennt, ob sich etwas verschlechtert.
Abgrenzung
Nicht zu verwechseln mit
- Fehler in der Quelle
- Gibt das Modell korrekt wieder, was in einem veralteten Datenblatt steht, ist das keine Halluzination, sondern ein Datenproblem. Die Unterscheidung ist wichtig, weil die Gegenmaßnahmen völlig verschieden sind: Das eine behebt man in der Datenpflege, das andere in der Absicherung der Antwort.
- Veralteter Wissensstand
- Ein Modell kennt nur, was bis zu seinem Trainingsstand vorlag. Eine überholte, aber einmal richtige Aussage ist keine Erfindung - sie ist schlicht alt. Dagegen hilft Anbindung an aktuelle Daten, nicht ein besseres Modell.
- Prompt Injection
- Eine Halluzination entsteht ungewollt aus einer Wissenslücke. Prompt Injection ist ein gezielter Angriff, der das Modell zu einer falschen oder schädlichen Ausgabe bringt. Beides sieht für den Nutzer gleich aus, erfordert aber unterschiedliche Abwehr.
Fehlerbilder
Worauf es ankommt
Halluzinationen per Anweisung abstellen wollen
Der Satz „Erfinde nichts, antworte nur wenn du sicher bist“ im Prompt senkt die Fehlerquote messbar kaum. Das Modell hat kein verlässliches Gefühl dafür, wann es rät - die Selbstsicherheit ist bei falschen und richtigen Antworten dieselbe. Wirksam ist erst, die Antwort an abrufbare Quellen zu binden und die Deckung durch die Quelle zu prüfen.
Die Temperatur als Sicherheitsregler missverstehen
Eine niedrige Temperatur macht Antworten gleichförmiger, nicht wahrer. Das Modell wiederholt dann seinen wahrscheinlichsten Fehler nur zuverlässiger - was die Prüfung sogar erschwert, weil Stichproben konsistent falsch aussehen. Die Temperatur steuert Stil und Reproduzierbarkeit, nicht den Wahrheitsgehalt.
Quellenangaben als Beweis nehmen
Auch eine Fundstelle kann danebenliegen: Das Modell kann eine korrekte Quelle einer Aussage zuordnen, die dort gar nicht steht. Wer Quellenangaben einführt, muss sie klickbar machen und stichprobenartig gegenprüfen. Sonst erzeugt die Angabe nur zusätzliches Vertrauen, ohne zusätzliche Sicherheit.
Nur im Pilotbetrieb messen
Die Fehlerquote wird gern einmal vor dem Start erhoben und danach nie wieder. Dabei ändern sich Daten, Fragen und Modellversionen laufend. Eine kleine, feste Stichprobe pro Woche kostet wenig und ist das einzige Frühwarnsystem, das im Alltag tatsächlich funktioniert.
Häufige Fragen
Was zu Halluzination oft gefragt wird
Wie oft halluziniert ein Sprachmodell?
Dafür gibt es keine allgemeingültige Zahl, und Angaben ohne Bezug zur Aufgabe sind wertlos. Die Quote hängt davon ab, wie eng die Frage ist, ob das Modell auf echte Quellen zugreift und wie eindeutig die Datenlage ist. Aussagekräftig wird es erst durch eigene Messung: fünfzig bis hundert typische Fragen mit bekannter richtiger Antwort, ausgewertet vor dem Start und danach regelmäßig.
Kann man Halluzinationen vollständig verhindern?
Nein. Die Eigenschaft steckt im Verfahren, nicht in einem behebbaren Fehler. Man kann die Rate deutlich senken - durch Anbindung an eigene Quellen, klare Rückfall-Antworten bei fehlender Deckung und eine Prüfschicht vor der Ausgabe - und man kann die Folgen begrenzen, indem Antworten mit hohem Schadenspotenzial immer einen Menschen passieren. Systeme, die Fehlerfreiheit voraussetzen, sind für diese Technologie falsch entworfen.
Woran erkennen Mitarbeitende eine Halluzination im Alltag?
Verdächtig sind ungewöhnlich glatte Antworten auf Detailfragen, exakte Zahlen ohne Fundstelle, erfundene Aktenzeichen oder Normen und Aussagen zu Dingen, die es im Unternehmen so gar nicht gibt. Als Faustregel gilt: Je präziser eine Angabe klingt und je schlechter sie sich prüfen lässt, desto eher lohnt der Blick in die Quelle. Schulung auf diese wenigen Signale wirkt in der Praxis mehr als jede Warnhinweis-Zeile.
Wer haftet, wenn die KI einem Kunden etwas Falsches sagt?
Ein KI-System ist kein eigenes Rechtssubjekt; verantwortlich bleibt das Unternehmen, das es einsetzt. Wie weit eine automatisiert erteilte Auskunft bindet, hängt vom Einzelfall, von der Ausgestaltung und von Ihren Bedingungen ab und gehört juristisch geprüft. Praktisch heißt das: Verbindliche Zusagen - Preise, Fristen, Deckung, Gewährleistung - sollten nicht ohne menschliche Freigabe herausgehen.
Von der Definition zur Umsetzung?
Lassen Sie uns besprechen, wie sich das konkret in Ihrem Unternehmen anwenden lässt.
Projekt anfragen