Grundlagen

Fine-Tuning

Definition

Fine-Tuning trainiert ein bestehendes Sprachmodell mit zusätzlichen Beispielen weiter und verändert dabei das Modell selbst - sinnvoll für Stil, Format und Verhalten, nicht für aktuelles Faktenwissen.

Beim Fine-Tuning bekommt ein fertiges Basismodell hunderte oder tausende Beispiele einer speziellen Aufgabe und passt seine internen Gewichte an. Das prägt einen festen Antwortstil, ein bestimmtes Ausgabeformat oder die Fachsprache einer Branche zuverlässiger, als ein Prompt es je könnte.

Was Fine-Tuning schlecht kann: frisches Wissen aufnehmen. Ein am Montag eintrainiertes Preisverzeichnis ist am Dienstag veraltet - hier ist RAG das richtige Werkzeug. Fine-Tuning verursacht zudem laufende Pflegekosten: Jede Modell-Generation kann ein erneutes Training bedeuten. Als Faustregel für den Mittelstand gilt: mit RAG starten, messen, und Fine-Tuning erst ergänzen, wenn ein konkretes Verhaltensproblem übrig bleibt.

In der Praxis

Ein Prüfgerätehersteller bringt dem Modell die Hausterminologie bei

Ein Hersteller von Prüfgeräten mit 220 Mitarbeitenden lässt Prüfberichte vorformulieren. Die Berichte folgen seit Jahren einer festen Hausterminologie und einem Satzbau, den die Qualitätssicherung so und nicht anders akzeptiert. Über Prompts ließ sich das nur annähern: Die Stilregeln wuchsen auf zwei Seiten an, wurden bei jeder Anfrage mitbezahlt, und trotzdem rutschten in jedem dritten Bericht Formulierungen durch, die der Prüfleiter von Hand korrigierte.

Aus rund 800 freigegebenen Altberichten wurden Trainingsbeispiele. Nach dem Nachtraining trifft ein kleineres Modell den Hausstil zuverlässiger als das große Modell mit zweiseitiger Stilanweisung - und die Anweisung schrumpfte auf wenige Zeilen, was die laufenden Kosten zusätzlich senkte.

Was das Nachtraining ausdrücklich nicht gelöst hat: Grenzwerte, Normstände und Gerätekonfigurationen kommen weiterhin aus der Datenbank und werden bei jeder Anfrage beigelegt. Sie ändern sich, das Modell ändert sich nicht mit. Die Entscheidung für Fine-Tuning fiel erst, nachdem Prompt und Datenanbindung ausgereizt waren und ein klar benennbares Verhaltensproblem übrig blieb - nämlich der Stil, nicht der Inhalt.

Abgrenzung

Nicht zu verwechseln mit

RAG: RAG liefert Wissen zur Laufzeit und ist damit sofort aktuell; Fine-Tuning prägt Verhalten und ist auf dem Stand der Trainingsdaten eingefroren. Faustregel: Was sich ändert, kommt aus der Datenanbindung. Wie es formuliert und strukturiert wird, kann aus dem Training kommen.
Distillation: Distillation ist technisch eine Spielart des Fine-Tunings, verfolgt aber ein anderes Ziel: Die Beispiele stammen aus einem großen Modell statt von Menschen, und es geht um niedrigere Betriebskosten bei gleicher Aufgabe, nicht um neues Verhalten.
Prompt Engineering: Ein Prompt ist in Minuten geändert und kostet nichts außer Tokens. Fine-Tuning bindet Daten, einen Trainingslauf und dauerhafte Pflege. Die wirtschaftlich richtige Reihenfolge ist deshalb: Prompt ausreizen, messen, und erst bei einem verbleibenden Verhaltensproblem trainieren.

Fehlerbilder

Worauf es ankommt

Fine-Tuning als Wissensspeicher benutzen
Der häufigste und teuerste Irrtum: Produktdaten, Preise oder Richtlinien in ein Modell trainieren zu wollen. Das Modell reproduziert sie danach unzuverlässig und ohne Quellenangabe, und jede Aktualisierung erfordert ein neues Training. Wechselndes Wissen gehört in eine angebundene Datenquelle, nicht in die Gewichte.
Altdaten ungeprüft als Trainingsmaterial nehmen
Ein Modell lernt aus Beispielen auch deren Fehler - veraltete Formulierungen, inkonsistente Struktur, die Marotten eines einzelnen Verfassers. Ein paar hundert sorgfältig geprüfte Beispiele schlagen mehrere tausend ungefilterte. Die Datenaufbereitung ist der eigentliche Aufwand des Projekts, nicht der Trainingslauf.
Ohne Ausstiegspfad trainieren
Ein feingetuntes Modell ist an einen Anbieter und meist an eine Modellgeneration gebunden. Wird sie abgekündigt, steht ein erneutes Training an. Halten Sie den aufbereiteten Trainingsdatensatz und die Auswertung in eigener Hand, damit der Wechsel eine Fleißaufgabe bleibt und kein Projektneustart wird.
Vorher und nachher nicht messen
Ohne festen Testsatz und einen vor dem Training erhobenen Ausgangswert lässt sich hinterher nicht belegen, ob das Training etwas gebracht hat. Der Eindruck „das liest sich jetzt besser“ reicht nicht, um wiederkehrende Trainingskosten zu rechtfertigen.

Häufige Fragen

Was zu Fine-Tuning oft gefragt wird

Wann lohnt sich Fine-Tuning statt RAG?

Wenn das Problem im Verhalten liegt und nicht im Wissen: immer gleiches Ausgabeformat, fester Stil, branchen- oder hauseigene Fachsprache, sehr knappe Antworten. Geht es um Inhalte, die sich ändern - Preise, Bestände, Richtlinien, Verträge -, ist RAG das richtige Werkzeug. Viele produktive Systeme nutzen beides: Training für die Form, Datenanbindung für den Inhalt.

Wie viele Beispiele brauchen wir für Fine-Tuning?

Die Größenordnung liegt bei einigen hundert bis wenigen tausend Beispielen, abhängig von der Aufgabe. Entscheidend ist nicht die Menge, sondern die Einheitlichkeit: Widersprüchliche Beispiele bringen dem Modell bei, dass beides erlaubt ist. Rechnen Sie damit, dass die Auswahl und Freigabe der Beispiele deutlich mehr Zeit kostet als das Training selbst.

Was kostet Fine-Tuning?

Der Trainingslauf ist bei den gängigen Anbietern meist der kleinste Posten. Den Aufwand bestimmen die Aufbereitung und fachliche Freigabe der Beispiele, der Aufbau eines Testsatzes und die spätere Pflege - insbesondere das Nachtrainieren bei einem Modellwechsel. Feingetunte Modelle haben zudem teils höhere Betriebspreise als das Basismodell; das gehört in die Rechnung.

Bleiben unsere Trainingsdaten beim Anbieter?

Bei den Geschäftsangeboten der großen Anbieter werden Trainingsdaten vertraglich nur für Ihr eigenes abgeleitetes Modell verwendet und nicht in allgemeine Modelle eingespeist. Prüfen Sie die konkreten Vertragsbedingungen, die Speicherregion und die Löschfristen vor dem ersten Upload - und klären Sie vorher, ob personenbezogene Daten in den Beispielen stehen und ob sie dort stehen dürfen.

Verwandte Begriffe