Observability (Tracing)
Definition
Observability macht sichtbar, was in einer KI-Anwendung tatsächlich passiert: Welche Prompts liefen, welche Dokumente wurden herangezogen, welche Werkzeuge aufgerufen, was kostete es - nachvollziehbar bis zur einzelnen Anfrage.
KI-Systeme sind von außen leicht eine Blackbox: Eine Antwort kommt heraus, aber warum? Observability protokolliert die einzelnen Schritte einer Anfrage (das „Tracing“) - vom Retrieval über die Modellaufrufe bis zu den genutzten Werkzeugen. So lässt sich eine schlechte Antwort im Nachhinein zerlegen und die Ursache finden, statt zu raten.
Für den Betrieb ist das unverzichtbar: Observability deckt Kostenfresser auf, zeigt Qualitätsabfall früh, liefert die Datenbasis für Evaluation und ist zugleich die Protokollspur, die Compliance-Anforderungen wie der EU AI Act verlangen. Ohne Beobachtbarkeit betreibt man KI blind - mit ihr wird der Betrieb steuerbar und belegbar.
In der Praxis
Eine Spedition sucht die Ursache einer falschen Sendungsauskunft
Ein Logistikdienstleister mit 200 Beschäftigten betreibt einen Assistenten, der Kunden Auskunft über Sendungsstatus, Laufzeiten und Zollunterlagen gibt. An einem Dienstag beschwert sich ein Kunde: Ihm wurde eine Zustellung für den Vortag bestätigt, die Sendung stand aber noch im Hafen. Die Antwort selbst ist nicht mehr reproduzierbar - dieselbe Frage liefert jetzt das richtige Ergebnis.
Ohne Observability endet die Untersuchung hier, mit einer Vermutung. Mit ihr lässt sich der einzelne Vorgang aufrollen: Welche Frage kam an, welche Suchanfrage wurde daraus, welche Datensätze kamen zurück, welcher Ausschnitt ging ins Modell, was kam heraus, wie lange dauerte jeder Schritt. In diesem Fall zeigte die Spur, dass der Statusdienst in einen Zeitüberschreitungsfehler gelaufen war und das System auf einen zwischengespeicherten Stand vom Vortag zurückgefallen ist - ohne das kenntlich zu machen.
Der Fehler lag damit nicht im Modell, sondern im Rückfallverhalten einer Schnittstelle. Das ist der übliche Befund: Die auffällige Antwort ist das Symptom, die Ursache liegt eine Ebene tiefer. Ohne aufgezeichnete Spur wäre stattdessen am Prompt geschraubt worden - ein Eingriff, der die Ursache nicht berührt und den nächsten Vorfall nur unwahrscheinlicher aussehen lässt.
Abgrenzung
Nicht zu verwechseln mit
- Klassisches IT-Monitoring
- Klassisches Monitoring beantwortet, ob ein Dienst erreichbar ist und wie schnell er antwortet - technische Verfügbarkeit. Bei KI-Anwendungen sind die teuren Fälle aber genau die, die technisch einwandfrei durchlaufen und inhaltlich falsch sind. Observability für KI muss darum den Inhalt eines Vorgangs erfassen, nicht nur seinen Statuscode.
- Evaluation
- Observability zeigt, was im Betrieb mit echten Anfragen geschehen ist; Evaluation prüft geplante Änderungen gegen einen festen Satz bekannter Fälle. Beides zusammen ergibt einen Kreislauf: Die Observability liefert die auffälligen Fälle, die Evaluation macht daraus dauerhafte Testfälle.
Fehlerbilder
Worauf es ankommt
Erst nach dem ersten Vorfall einbauen
Tracing lässt sich nicht rückwirkend einschalten. Wer es nach der ersten Reklamation nachrüstet, hat für genau den Vorgang, um den es geht, keine Daten - und muss gegenüber Kunde oder Geschäftsleitung mit Vermutungen arbeiten. Die Instrumentierung gehört vor den ersten Produktivgang; sie ist an dieser Stelle die günstigste Versicherung im ganzen Projekt.
Alles mitschneiden, ohne Löschkonzept
Ein vollständiges Tracing enthält alles, was Nutzer eingegeben haben - im Zweifel Kundennamen, Vertragsdaten, Gesundheitsangaben. Ohne festgelegte Aufbewahrungsfrist, Zugriffsbeschränkung und Zweckbindung wird aus dem Betriebswerkzeug ein Datenschutzproblem mit eigener Meldepflicht. Klären Sie Aufbewahrung, Zugriff und Pseudonymisierung mit dem Datenschutzbeauftragten, bevor Sie die Protokollierung einschalten.
Spuren sammeln, aber niemand sieht hinein
Viele Teams schalten Tracing ein und öffnen die Oberfläche danach nur noch im Störungsfall. Damit verschenken sie den eigentlichen Wert: Auffälligkeiten früh sehen, bevor sie Beschwerden werden. Setzen Sie einen festen, kurzen Termin - wöchentlich reicht oft -, in dem jemand aus dem Fachbereich eine Stichprobe der Vorgänge liest, und definieren Sie Schwellen, bei deren Überschreiten automatisch jemand benachrichtigt wird.
Nur Fehler protokollieren
Wer aus Sparsamkeit nur fehlgeschlagene Aufrufe mitschneidet, protokolliert ausgerechnet die harmlosen Fälle. Die teuren Vorgänge sind technisch erfolgreich: Das System hat geantwortet, freundlich und falsch. Protokollieren Sie darum vollständig oder wenigstens eine repräsentative Stichprobe erfolgreicher Vorgänge - sonst prüfen Sie am eigentlichen Risiko vorbei.
Häufige Fragen
Was zu Observability (Tracing) oft gefragt wird
Ist Observability nicht einfach Logging?
Logging schreibt einzelne Ereigniszeilen, Observability rekonstruiert einen zusammenhängenden Vorgang. Der Unterschied wird in dem Moment praktisch relevant, in dem eine Anfrage mehrere Schritte durchläuft - Suche, Modellaufruf, Werkzeugaufruf, zweiter Modellaufruf. Aus verstreuten Logzeilen lässt sich dieser Ablauf kaum zusammensetzen; ein Trace zeigt ihn als eine Kette mit Zeiten, Kosten und Zwischenergebnissen. Genau das braucht man, um eine schlechte Antwort zu erklären.
Dürfen wir Nutzereingaben aus einer KI-Anwendung überhaupt speichern?
Grundsätzlich ja, aber nicht unbegrenzt und nicht unbedacht. Sie brauchen einen Zweck (Fehleranalyse und Qualitätssicherung sind nachvollziehbare Zwecke), eine Aufbewahrungsfrist, eine Zugriffsbeschränkung auf die Personen, die die Daten wirklich benötigen, und eine Aufnahme in die üblichen Datenschutzunterlagen. Wo es geht, sollten Sie personenbezogene Angaben vor der Ablage ersetzen oder verkürzen. Bei personenbezogenen Daten gehört diese Entscheidung vor den Start und in die Hände Ihres Datenschutzbeauftragten.
Was kostet Observability für KI-Anwendungen?
Für Spuren und Auswertung gibt es fertige Werkzeuge, teils quelloffen und im eigenen Haus betreibbar, teils als Dienst mit nutzungsabhängiger Abrechnung - die Lizenz- oder Dienstkosten sind selten der entscheidende Posten. Der Aufwand steckt in der Instrumentierung der eigenen Anwendung und liegt bei einer typischen mittelständischen Anwendung im Bereich weniger Personentage, wenn man ihn von Anfang an mitplant. Nachträglich wird er spürbar größer, weil die Ablaufschritte dann nachträglich getrennt werden müssen.
Brauchen wir Observability für die Compliance?
Nachvollziehbarkeit und Protokollierung sind wiederkehrende Anforderungen an KI-Systeme, insbesondere für Anwendungen in höheren Risikoklassen - ohne Spuren lässt sich schlicht nicht belegen, wie eine Entscheidung zustande kam. Ob und in welchem Umfang das konkret für Ihre Anwendung gilt, hängt an deren Einstufung und gehört fachkundig geprüft. Unabhängig davon gilt der betriebliche Grund ohnehin: Ohne Spuren können Sie eine Reklamation weder aufklären noch abschließend beantworten.
Verwandte Begriffe
Weiter im Glossar
Passend dazu
Passende Leistung
GenAI-Einführung – Compliance & Governance
Regelkonforme Einführung von Generative AI in Ihrem Unternehmen – von der Risikoanalyse bis zur Implementierung.
Zur Leistung →System- und Software-Architektur
Erfassung, Planung und Dokumentation von Architekturen als Grundlage für skalierbare IT-Lösungen.
Zur Leistung →Von der Definition zur Umsetzung?
Lassen Sie uns besprechen, wie sich das konkret in Ihrem Unternehmen anwenden lässt.
Projekt anfragen