Zum Hauptinhalt springen

LLM (Large Language Model)

Ein LLM (Large Language Model) ist ein mit sehr großen Textmengen trainiertes neuronales Netz, das Sprache statistisch modelliert und damit Texte versteht, zusammenfasst, übersetzt und erzeugt. LLMs sind die technische Grundlage von Chatbots, KI-Assistenten und KI-Agenten.

Wie funktioniert ein LLM?

Im Kern sagt ein LLM immer wieder das wahrscheinlichste nächste Wortbestandteil (Token) voraus — gegeben alles, was davor steht. Was banal klingt, führt bei ausreichender Modellgröße und Trainingsdatenmenge zu erstaunlich leistungsfähigem Sprachverhalten: Das Modell lernt aus Milliarden von Textbeispielen Grammatik, Fachwissen, Argumentationsmuster und Stil, ohne dass diese explizit einprogrammiert werden.

Die Entwicklung verläuft typischerweise in zwei Phasen: Im Pre-Training lernt das Modell aus großen, allgemeinen Textkorpora die Struktur von Sprache und Weltwissen. Im anschließenden Fine-Tuning wird es auf gewünschtes Verhalten ausgerichtet — etwa Anweisungen zu befolgen, hilfreich zu antworten und schädliche Ausgaben zu vermeiden. Die technische Basis fast aller heutigen LLMs ist die Transformer-Architektur, die Beziehungen zwischen allen Teilen eines Textes gleichzeitig verarbeiten kann.

Was können LLMs — und was nicht?

LLMs sind stark, wo Sprache das Arbeitsmaterial ist: Texte zusammenfassen, umformulieren, übersetzen, klassifizieren, Entwürfe erstellen, Code schreiben, Fragen zu vorgelegten Dokumenten beantworten. Ebenso wichtig ist, ihre systematischen Grenzen zu kennen:

GrenzeBedeutung in der Praxis
HalluzinationDas Modell erzeugt plausibel klingende, aber falsche Aussagen — besonders bei Wissenslücken. Kritische Ausgaben brauchen Quellenanbindung oder menschliche Prüfung.
KontextfensterDas Arbeitsgedächtnis ist endlich, und die Antwortqualität sinkt tendenziell, je voller es wird. Lange Aufgaben brauchen eine Architektur, die den Kontext klein hält.
WissensstandDas Modell kennt nur, was in den Trainingsdaten stand. Aktuelle oder unternehmensinterne Informationen müssen von außen zugeführt werden, etwa per RAG.
Nicht-DeterminismusDieselbe Eingabe kann unterschiedliche Ausgaben erzeugen. Prozesse, die exakte Reproduzierbarkeit verlangen, brauchen zusätzliche Absicherung.

Keine dieser Grenzen macht LLMs unbrauchbar — sie bestimmen aber, wie eine Lösung aufgebaut sein muss, damit sie zuverlässig funktioniert.

LLMs im Unternehmenseinsatz

Im Unternehmen ist das Modell selbst selten das eigentliche Problem — entscheidend ist die Einbettung. Drei Fragen stellen sich in praktisch jedem Projekt:

  • Datenanbindung: Wie kommt das Modell an das relevante Unternehmenswissen? Meist über Retrieval-Augmented Generation (RAG), bei Bedarf ergänzt um Fine-Tuning oder trainierte Adapter.
  • Datenschutz und Souveränität: Dürfen die Daten an einen Cloud-Anbieter? Falls nicht, sind Betrieb in der EU, in einer souveränen Umgebung oder auf eigener Hardware die Alternativen — die Modelle kommen dann zu den Daten, nicht umgekehrt.
  • Modellwahl und Kosten: Nicht jede Aufgabe braucht das größte Modell. Wirtschaftlich wird der Einsatz, wenn pro Aufgabe das passende Modell gewählt und die Werkzeugkette auf Effizienz ausgelegt wird.

LLM in der Praxis: das Modell ist nur ein Baustein

Ob ein LLM im Unternehmen echten Nutzen stiftet, hängt erfahrungsgemäß weniger vom Modell ab als vom Workflow darum herum: der Analyse, welcher Prozess sich überhaupt lohnt, der sauberen Integration in bestehende Systeme und Qualitätssicherung, und der Frage, wer die Ausgaben prüft, bevor sie Wirkung entfalten. Ein Modell auszutauschen ist einfach — einen tragfähigen Prozess um das Modell herum zu bauen, ist die eigentliche Arbeit.

Häufige Fragen

Was ist der Unterschied zwischen einem LLM und einem Chatbot?
Das LLM ist das Modell, der Chatbot eine Anwendung darauf. Ein Chatbot kombiniert ein LLM mit einer Benutzeroberfläche, Gesprächsverlauf und meist weiteren Bausteinen wie Wissensanbindung oder Zugriffskontrolle. Dasselbe LLM kann viele verschiedene Anwendungen antreiben — vom Chatbot bis zum KI-Agenten.
Warum halluzinieren LLMs?
Ein LLM erzeugt das statistisch plausibelste nächste Wort — es hat kein eingebautes Konzept von wahr oder falsch. Fehlt Wissen oder ist die Frage mehrdeutig, produziert das Modell trotzdem eine flüssige, überzeugend klingende Antwort. Anbindung an geprüfte Wissensquellen (etwa per RAG) und menschliche Kontrolle bei kritischen Aussagen reduzieren das Risiko, beseitigen es aber nicht vollständig.
Kann ein LLM mit unternehmenseigenen Daten arbeiten?
Ja, auf mehreren Wegen: Relevante Inhalte werden zur Laufzeit in die Anfrage eingespeist (RAG), das Modell wird per Fine-Tuning oder Adaptern auf eigene Daten angepasst, oder beides kombiniert. Für schützenswerte Daten kommt souveränes Hosting hinzu — das Modell läuft dann in der eigenen Umgebung, statt dass Daten an einen fremden Cloud-Dienst gehen.

Verwandte Begriffe

Fachlich geprüft von Christoph Hess, Head of Artificial Intelligence am 20. Juli 2026