Observability (Tracing)
Definition
Observability macht sichtbar, was in einer KI-Anwendung tatsächlich passiert: Welche Prompts liefen, welche Dokumente wurden herangezogen, welche Werkzeuge aufgerufen, was kostete es — nachvollziehbar bis zur einzelnen Anfrage.
KI-Systeme sind von außen leicht eine Blackbox: Eine Antwort kommt heraus, aber warum? Observability protokolliert die einzelnen Schritte einer Anfrage (das „Tracing") — vom Retrieval über die Modellaufrufe bis zu den genutzten Werkzeugen. So lässt sich eine schlechte Antwort im Nachhinein zerlegen und die Ursache finden, statt zu raten.
Für den Betrieb ist das unverzichtbar: Observability deckt Kostenfresser auf, zeigt Qualitätsabfall früh, liefert die Datenbasis für Evaluation und ist zugleich die Protokollspur, die Compliance-Anforderungen wie der EU AI Act verlangen. Ohne Beobachtbarkeit betreibt man KI blind — mit ihr wird der Betrieb steuerbar und belegbar.
Verwandte Begriffe
Weiter im Glossar
Passend dazu
Passende Leistung
GenAI-Einführung – Compliance & Governance
Regelkonforme Einführung von Generative AI in Ihrem Unternehmen – von der Risikoanalyse bis zur Implementierung.
Zur Leistung →System- und Software-Architektur
Erfassung, Planung und Dokumentation von Architekturen als Grundlage für skalierbare IT-Lösungen.
Zur Leistung →Von der Definition zur Umsetzung?
Lassen Sie uns besprechen, wie sich das konkret in Ihrem Unternehmen anwenden lässt.
Projekt anfragen