Kontextfenster (Context Window)
Definition
Das Kontextfenster ist die maximale Textmenge - gemessen in Tokens - die ein Modell bei einer Anfrage gleichzeitig überblicken kann: Eingabe, mitgelieferte Dokumente und die eigene Antwort zusammen.
Man kann sich das Kontextfenster als Arbeitsgedächtnis vorstellen: Alles, was das Modell für eine Antwort berücksichtigen soll, muss hineinpassen. Moderne Modelle fassen sehr große Fenster - hunderttausende Tokens, ganze Aktenordner. Doch mehr ist nicht automatisch besser: Zu viel irrelevanter Text lenkt ab und verwässert die Antwort.
Deshalb ist Context Engineering - die bewusste Auswahl, was ins Fenster kommt - oft wichtiger als die schiere Fenstergröße. In der Praxis liefert ein Retrieval-Schritt nur die wenigen wirklich relevanten Auszüge statt des gesamten Archivs. Das spart Tokens, senkt Kosten und verbessert die Trefferqualität zugleich.
In der Praxis
Ein Anlagenbauer legt die komplette Projektakte bei
Ein Anlagenbauer mit 300 Mitarbeitenden möchte Rückfragen aus laufenden Projekten schneller beantworten. Der erste Entwurf war naheliegend: Weil das gewählte Modell ein sehr großes Kontextfenster bietet, legte die Anwendung die vollständige Projektakte bei - Pflichtenheft, Änderungsanträge, Besprechungsprotokolle, zusammen rund 400 Seiten.
Im Test mit drei Fragen funktionierte das. Im Betrieb zeigten sich drei Probleme gleichzeitig: Jede Antwort dauerte spürbar lange, die Kosten je Anfrage lagen um ein Vielfaches über der Schätzung, und ausgerechnet bei Detailfragen, deren Antwort in der Mitte eines langen Dokuments stand, wurde das Modell unzuverlässig. Dass die Trefferquote in der Mitte sehr langer Eingaben absinkt, ist ein bekanntes Verhalten und kein Defekt des Modells.
Der Umbau bestand darin, das Fenster nicht mehr zu füllen, sondern zu bestücken: Ein Suchschritt liefert pro Frage vier bis sechs Abschnitte mit Quellenangabe, dazu ein kurzer Projektsteckbrief. Das Fenster ist seitdem zu einem Bruchteil belegt - und dient als Reserve für die seltenen Fälle, in denen ein vollständiger Vertragstext wirklich gebraucht wird.
Abgrenzung
Nicht zu verwechseln mit
- Token
- Das Token ist die Maßeinheit, das Kontextfenster die Obergrenze. Die Fenstergröße wird in Tokens angegeben, weshalb sich beide Begriffe nur gemeinsam sinnvoll lesen lassen.
- Gedächtnis eines Assistenten
- Das Kontextfenster ist ein Arbeitsgedächtnis für genau eine Anfrage - danach ist alles vergessen. Dass ein Assistent sich an frühere Gespräche erinnert, leistet nicht das Modell, sondern eine Anwendung, die alte Inhalte bei der nächsten Anfrage erneut beilegt.
Fehlerbilder
Worauf es ankommt
Das Fenster als Ersatz für die Datenanbindung
Ein großes Fenster verführt dazu, ganze Archive beizulegen statt einen Suchschritt zu bauen. Das ist teuer, langsam und liefert bei großen Textmengen schlechtere Antworten als eine gezielte Auswahl. Die Fenstergröße ist eine Reserve, keine Architektur.
Die Herstellerangabe als nutzbare Größe lesen
Eingabe, beigelegte Dokumente und die erzeugte Antwort teilen sich dasselbe Fenster. Zusätzlich begrenzen viele Anbieter die maximale Antwortlänge separat und deutlich niedriger. Wer mit der beworbenen Zahl plant, stößt in der Umsetzung auf eine Grenze, mit der er nicht gerechnet hat.
Lange Gespräche ohne Verdichtung zulassen
Erreicht ein Dialog das Fensterlimit, brechen manche Anwendungen ab, andere schneiden stillschweigend den Anfang weg - samt der ursprünglichen Aufgabenstellung. Das Ergebnis sind Assistenten, die nach zwanzig Minuten scheinbar grundlos ihre Anweisungen vergessen. Planen Sie Verdichtung oder einen bewussten Neustart des Gesprächs ein.
Häufige Fragen
Was zu Kontextfenster (Context Window) oft gefragt wird
Wie groß muss das Kontextfenster für unsere Anwendung sein?
Rechnen Sie von Ihrer größten realistischen Anfrage rückwärts: feste Anweisung plus beigelegte Auszüge plus erwartete Antwortlänge, mit etwa 50 Prozent Reserve. Für die meisten Anwendungen mit vorgeschaltetem Suchschritt genügen mittelgroße Fenster; sehr große Fenster lohnen sich erst, wenn ein einzelnes Dokument ungeteilt ausgewertet werden muss, etwa ein vollständiger Vertrag.
Was passiert, wenn das Kontextfenster überschritten wird?
Die Schnittstelle weist die Anfrage mit einer Fehlermeldung zurück. Gefährlicher sind Anwendungen, die das vorher selbst abfangen und stillschweigend kürzen - dann fehlt Inhalt, ohne dass jemand es bemerkt. Prüfen Sie, wie sich Ihre Anwendung in diesem Fall verhält, und lassen Sie die Kürzung protokollieren.
Ist ein größeres Kontextfenster automatisch besser?
Nein. Mehr Text im Fenster bedeutet höhere Kosten, längere Antwortzeiten und ein größeres Risiko, dass relevante Angaben zwischen irrelevanten untergehen. Die Qualität hängt davon ab, was im Fenster steht, nicht davon, wie viel hineinpasst.
Von der Definition zur Umsetzung?
Lassen Sie uns besprechen, wie sich das konkret in Ihrem Unternehmen anwenden lässt.
Projekt anfragen