Halluzination
Definition
Eine Halluzination ist eine plausibel klingende, aber falsche oder frei erfundene Aussage eines Sprachmodells — ausgegeben mit derselben Selbstsicherheit wie eine korrekte Antwort, ohne Warnsignal.
Ein Sprachmodell sagt nicht die Wahrheit, es sagt das Wahrscheinliche. Wo ihm Wissen fehlt, füllt es die Lücke mit dem sprachlich Passendsten. Das Ergebnis liest sich flüssig und souverän, kann aber erfunden sein — eine falsche Rechtsauskunft klingt exakt so überzeugend wie eine korrekte. Halluzination ist deshalb kein Bug, den man wegprogrammiert, sondern eine Eigenschaft der Technologie, die man einrahmen muss.
Beherrschbar wird das Risiko durch mehrere Mittel zusammen: Grounding bindet Antworten an Quellen, Guardrails prüfen Ein- und Ausgaben, LLM-as-a-Judge kontrolliert in der Breite, und systematische Evaluation macht die Fehlerquote messbar. Der Wissens-Artikel „Wann halluziniert Ihre KI?" führt das aus.
Von der Definition zur Umsetzung?
Lassen Sie uns besprechen, wie sich das konkret in Ihrem Unternehmen anwenden lässt.
Projekt anfragen