Grundlagen

LLM (Large Language Model)

Definition

Ein LLM ist ein großes Sprachmodell, das aus riesigen Textmengen gelernt hat, das jeweils nächste plausible Wort vorherzusagen - und daraus flüssige Antworten, Zusammenfassungen und Code erzeugt.

Ein Large Language Model ist die Maschine hinter Assistenten wie Claude oder ChatGPT. Es wurde nicht mit Fakten „gefüttert“, sondern darauf trainiert, Sprachmuster nachzubilden. Das erklärt zugleich seine Stärke - es formuliert souverän zu fast jedem Thema - und seine Schwäche: Es sagt das Wahrscheinliche, nicht zwingend das Wahre.

Für Unternehmen ist das LLM selten das eigentliche Produkt, sondern ein Baustein. Der Wert entsteht darum herum: durch Anbindung an Ihre Daten (siehe RAG), durch klare Leitplanken und durch systematische Prüfung. Ein LLM allein kennt Ihr Unternehmen nicht - erst die Konstruktion drumherum macht es nützlich und verantwortbar.

In der Praxis

Ein Zulieferer lässt Ausschreibungen vorsortieren

Ein Automobilzulieferer mit 180 Mitarbeitenden bekommt pro Woche rund 40 Ausschreibungen als PDF. Bisher las ein Vertriebsingenieur jede an, um zu entscheiden, ob sie überhaupt ins Portfolio passt - ein halber Tag pro Woche, der für die eigentliche Angebotskalkulation fehlte.

Das Modell übernimmt hier nicht die Entscheidung, sondern die Vorsortierung: Es liest jedes Dokument, zieht Losgröße, Werkstoff, Toleranzen und Liefertermin heraus und ordnet die Ausschreibung einer von drei Kategorien zu. Die Begründung schreibt es dazu, mit Fundstelle. Der Ingenieur sieht damit eine vorsortierte Liste statt eines Stapels.

Entscheidend ist, was bewusst nicht automatisiert wurde: Die Absage an einen Kunden bleibt beim Menschen. Das Modell darf irren - solange sein Irrtum in einer Liste sichtbar wird und nicht in einer versendeten E-Mail. Genau diese Grenze macht den Unterschied zwischen einem nützlichen und einem riskanten Einsatz.

Abgrenzung

Nicht zu verwechseln mit

Klassische Textanalyse: Regelbasierte Systeme und klassische Klassifikatoren brauchen für jede neue Dokumentart eine eigene Konfiguration oder ein eigenes Training. Ein LLM kommt mit einer Anweisung in normaler Sprache aus - dafür ist sein Verhalten weniger vorhersagbar und muss geprüft statt spezifiziert werden.
Suchmaschine: Eine Suche findet Dokumente, ein LLM formuliert eine Antwort. Das ist bequemer und zugleich gefährlicher: Die Suche zeigt, woher etwas stammt, das Modell muss man erst dazu zwingen.

Fehlerbilder

Worauf es ankommt

Das Modell als Wissensquelle behandeln
Ein LLM kennt Ihre Preise, Verträge und Stücklisten nicht. Wer es ohne Anbindung an die eigenen Daten nach internen Sachverhalten fragt, bekommt eine plausibel klingende Erfindung. Interne Fragen brauchen einen Retrieval-Schritt, der die Antwort an echte Dokumente bindet.
Den Anbieter vor dem Anwendungsfall wählen
Die Frage „welches Modell nehmen wir?“ kommt fast immer zu früh. Erst wenn Aufgabe, Datenzugriff und Prüfweg feststehen, lässt sich sinnvoll vergleichen - und dann ist der Wechsel zwischen Anbietern meist eine Frage von Tagen, nicht von Monaten.
Ohne Messpunkt starten
Ohne einen festgehaltenen Ausgangswert - wie lange dauert der Vorgang heute, wie oft geht er schief - lässt sich später nicht belegen, ob die Einführung etwas gebracht hat. Der Messpunkt kostet einen Nachmittag und entscheidet, ob das Projekt eine zweite Runde bekommt.

Häufige Fragen

Was zu LLM (Large Language Model) oft gefragt wird

Was kostet der Einsatz eines LLM im Mittelstand?

Die reinen Modellkosten sind meist der kleinste Posten: Ein Vorgang wie das Auswerten eines mehrseitigen Dokuments liegt im Bereich weniger Cent. Relevant werden die Kosten erst über die Menge - und der eigentliche Aufwand steckt in Anbindung, Prüfung und Betrieb, nicht im Modell selbst. Eine belastbare Rechnung braucht darum die erwartete Zahl der Vorgänge pro Monat, nicht nur den Preis pro Anfrage.

Bleiben unsere Daten vertraulich, wenn wir ein LLM nutzen?

Bei den Geschäftskonten der großen Anbieter ist eine Nutzung der Eingaben zum Training vertraglich ausgeschlossen; bei kostenlosen Privatkonten in der Regel nicht. Wer besonders sensible Daten verarbeitet, kann zusätzlich auf europäische Regionen ausweichen oder ein Modell in der eigenen Cloud betreiben. Die Entscheidung gehört vor den ersten Piloten, nicht danach.

Brauchen wir ein eigenes, selbst trainiertes Modell?

Fast nie. Eigenes Training lohnt sich erst bei sehr spezieller Sprache oder sehr großen Mengen gleichartiger Vorgänge. Für den weit überwiegenden Teil der Anwendungsfälle bringt die Anbindung an die eigenen Daten mehr als ein eigenes Modell - bei einem Bruchteil des Aufwands.

Wie erkennen wir, ob ein LLM für eine Aufgabe taugt?

Eine Aufgabe eignet sich, wenn es viele ähnliche Fälle gibt, ein Fehler auffällt statt unbemerkt zu bleiben, und ein Mensch das Ergebnis in Sekunden prüfen kann. Fehlt eines dieser drei Merkmale, ist die Aufgabe entweder zu selten, um sich zu lohnen, oder zu heikel, um sie ohne zusätzliche Absicherung zu übergeben.

Verwandte Begriffe