Retrieval

Vektor-Retrieval

Definition

Vektor-Retrieval findet zu einer Frage die inhaltlich ähnlichsten Textstellen, indem es deren Embeddings vergleicht - die Nähe zweier Zahlenvektoren steht für inhaltliche Verwandtschaft.

Wird eine Frage gestellt, wandelt das System sie in ein Embedding um und sucht in der Vektordatenbank die nächstgelegenen Punkte - also die inhaltlich passendsten Dokumentauszüge. Anders als die klassische Stichwortsuche findet Vektor-Retrieval auch Treffer, die dieselbe Sache mit anderen Worten beschreiben.

Vektor-Retrieval ist der „Retrieval“-Teil in RAG. In der Praxis kombiniert man es oft mit klassischer Stichwortsuche (hybride Suche), weil exakte Begriffe wie Artikelnummern über Vektoren allein schlechter zu treffen sind. Ein nachgelagertes Reranking sortiert die Kandidaten anschließend nach echter Relevanz - so landen nur die besten Auszüge im Kontextfenster.

In der Praxis

Ein Facility-Dienstleister sucht Preisklauseln über 4.000 Verträge

Ein Gebäudedienstleister mit rund 700 Mitarbeitenden betreut etwa 4.000 laufende Objektverträge. Als die Energiepreise springen, stellt die Geschäftsführung eine einfache Frage: In welchen Verträgen dürfen wir die Preise anpassen, und unter welchen Bedingungen? Die Volltextsuche hilft nicht weiter, weil dieselbe Regelung je nach Jahrgang und Verfasser „Preisanpassungsklausel“, „Wertsicherung“ oder „Indexierung nach Verbraucherpreisindex“ heißt - und manche Verträge sie beschreiben, ohne sie zu benennen.

Vektor-Retrieval setzt hier anders an: Die Verträge werden in Klauselabschnitte zerlegt, jeder Abschnitt bekommt eine Zahlenreihe, die seine Bedeutung abbildet. Als Suchanfrage dient nicht ein Stichwort, sondern eine Beispielklausel im Wortlaut. Zurück kommen die inhaltlich ähnlichsten Abschnitte quer über alle Formulierungsvarianten - als Trefferliste mit Fundstelle, nicht als fertige Antwort. Zwei Juristinnen arbeiten diese Liste ab, statt 4.000 Dokumente zu öffnen.

Zwei Punkte entscheiden über die Brauchbarkeit. Erstens lässt sich über Bedeutung allein nicht filtern: Laufzeit, Mandant und Vertragsart müssen als eigene Felder mitlaufen, sonst findet das System die richtige Klausel im falschen Vertrag. Zweitens liefert Vektor-Retrieval die ähnlichsten Treffer, nicht alle zutreffenden - für eine Prüfung mit Vollständigkeitsanspruch braucht es zusätzlich einen systematischen Durchlauf über den definierten Vertragsbestand. Wer diesen Unterschied nicht benennt, verkauft eine Recherchehilfe als Revisionssicherheit.

Abgrenzung

Nicht zu verwechseln mit

Semantische Suche: Im Alltag werden die Begriffe synonym gebraucht; genauer ist: Semantische Suche beschreibt das Ziel - nach Bedeutung finden -, Vektor-Retrieval das gebräuchlichste Verfahren dafür. Semantische Suche gibt es auch ohne Vektoren, etwa über gepflegte Synonymbestände, und Vektoren dienen auch anderen Zwecken wie Dublettenerkennung oder Empfehlungen.
Stichwortsuche: Die klassische Stichwortsuche bewertet, wie oft und wie auffällig ein gesuchtes Wort in einem Dokument vorkommt. Sie ist unschlagbar bei exakten Kennungen - Artikelnummern, Normbezeichnungen, Eigennamen - und blind für andere Formulierungen. Vektor-Retrieval ist genau umgekehrt stark. Deshalb laufen in ernsthaften Systemen beide parallel und die Ergebnisse werden zusammengeführt.
Reranking: Vektor-Retrieval sucht breit und schnell in Millionen Abschnitten und nimmt dafür eine grobe Rangfolge in Kauf. Reranking bewertet anschließend nur noch die wenigen Dutzend Kandidaten, dafür aber genau. Die beiden ersetzen einander nicht, sie sind zwei Stufen derselben Kette - und Reranking ohne eine ausreichend große Kandidatenmenge davor bringt nichts.

Fehlerbilder

Worauf es ankommt

Zu viele Treffer an das Modell weiterreichen
Die Annahme „mehr Kontext ergibt bessere Antworten“ hält der Praxis nicht stand. Irrelevantes Material lenkt das Sprachmodell ab, verwässert die Antwort und kostet bei jeder Anfrage. Wenige, gut sortierte Auszüge schlagen eine lange Liste mittelmäßiger - die Stellschraube ist nicht die Menge, sondern die Rangfolge.
Ohne Metadaten indexieren
Wer nur Text und Zahlenreihe speichert, kann den Suchraum später nicht eingrenzen. Gültigkeitsdatum, Dokumenttyp, Mandant, Standort, Vertraulichkeitsstufe gehören von Anfang an an jeden Abschnitt. Nachträglich lassen sie sich oft nur durch einen kompletten Neuaufbau ergänzen - und ohne sie liefert das System inhaltlich passende, aber formal falsche Treffer.
Auf exakte Treffer verzichten
Ein rein vektorbasiertes System findet die Beschreibung eines Bauteils, aber nicht zuverlässig die Bestellnummer, nach der jemand tatsächlich sucht. Für Kennungen, Normbezeichnungen und Eigennamen braucht es weiterhin eine klassische Suche daneben. Nutzer merken diesen Mangel sofort und bewerten das neue System dann als Rückschritt gegenüber dem alten.
Die Trefferqualität nie messen
Ob die richtige Stelle überhaupt gefunden wurde, lässt sich nur mit Fragen prüfen, deren richtige Fundstelle bekannt ist. Ohne diese Prüfung wird an Parametern gedreht, bis eine Beispielfrage gut aussieht - und niemand bemerkt, dass zwei andere Fragen dadurch schlechter geworden sind.

Häufige Fragen

Was zu Vektor-Retrieval oft gefragt wird

Wie unterscheidet sich Vektor-Retrieval von einer normalen Suche?

Eine normale Suche vergleicht Zeichen: Sie findet, was das gesuchte Wort enthält. Vektor-Retrieval vergleicht Bedeutungen und findet deshalb auch Stellen, die dieselbe Sache mit anderen Worten beschreiben. Der Nachteil ist Unschärfe bei exakten Angaben wie Nummern oder Codes. In der Praxis werden beide Verfahren kombiniert, weil sie unterschiedliche Fehler machen.

Wie viele Treffer sollte der Retrieval-Schritt liefern?

Es gibt keine allgemeingültige Zahl, wohl aber eine bewährte Form: breit suchen, dann verdichten. Das Retrieval holt einige Dutzend Kandidaten, ein Nachsortierschritt bewertet sie, und nur eine einstellige Zahl von Auszügen geht an das Sprachmodell. Wer gleich nur fünf Treffer holt, verschenkt die Möglichkeit, die richtige Stelle überhaupt noch nach vorn zu bringen.

Brauchen wir dafür eine spezielle Vektordatenbank?

Nicht zwingend. Viele etablierte relationale Datenbanken und Suchdienste bieten Vektorsuche inzwischen als Funktion an, was für Bestände im Bereich einiger hunderttausend Abschnitte meist ausreicht und den Betrieb erheblich vereinfacht. Ein spezialisiertes Produkt wird interessant, wenn die Zahl der Abschnitte in die Millionen geht oder harte Antwortzeiten bei vielen gleichzeitigen Abfragen gefordert sind.

Findet Vektor-Retrieval garantiert alle relevanten Stellen?

Nein. Das Verfahren liefert die ähnlichsten Treffer bis zu einer eingestellten Anzahl - nicht alle zutreffenden. Für Recherche und Assistenz ist das genau richtig; für Aufgaben mit Vollständigkeitsanspruch, etwa eine Vertragsprüfung oder eine Auskunft nach Datenschutzrecht, braucht es zusätzlich einen systematischen Durchlauf über einen klar definierten Bestand.

Verwandte Begriffe