Ein Large Language Model (LLM), auf Deutsch großes Sprachmodell, ist ein KI-Modell, das mit maschinellen Lernverfahren auf umfangreichen Textdaten trainiert wurde und natürliche Sprache erkennt, erzeugt, übersetzt und verarbeitet. Die Bezeichnung „groß“ bezieht sich auf die sehr hohe Zahl an Parametern und den Umfang der Trainingsdaten.
Funktionsweise
Sprachmodelle sagen auf Basis von Wahrscheinlichkeiten voraus, welche Wörter auf eine vorhandene Wortfolge folgen. Eine dafür genutzte Technik ist der Transformer. Er wandelt Wörter in Vektoren um, sogenannte Embeddings. Ähnliche Wörter erhalten dabei ähnliche Vektoren. Autoregressive Modelle wie GPT sagen das nächste Wort beziehungsweise Token aus allen vorherigen voraus.
Training
Am Beispiel von ChatGPT verläuft das Training in zwei Stufen. Zuerst lernt das Modell selbstüberwacht: Es sagt das nächste Wort vorher, ohne dass Menschen die Daten kennzeichnen. Danach schreiben Menschen Mustertexte und bewerten Antworten nach ihrer Qualität. Aus diesen Bewertungen lernt das System per verstärkendem Lernen (RLHF).
Einsatz
LLMs erstellen Texte und fassen sie zusammen, beantworten Fragen und erzeugen Programmcode. Bekannte Beispiele sind GPT-4, Gemini, Claude und Mistral. LLMs gelten als Schlüsseltechnologie der künstlichen Intelligenz. Lassen sie sich an unterschiedliche Zwecke anpassen, heißen sie auch Basismodelle (Foundation Models).
Grenzen
LLMs können veraltetes Wissen wiedergeben und „halluzinieren“. Dagegen hilft RAG: Das System ruft externe Daten aus einer Wissensbasis ab, ohne das Modell neu zu trainieren. Außerdem lassen sich die Schutzmechanismen eines LLM per „Jailbreaking“ umgehen. Hinzu kommt eine strukturelle Grenze: Aufgaben mit mehreren aufeinander aufbauenden Schritten überfordern reine Textgenerierung, so leistungsfähig das einzelne Sprachmodell dahinter auch sein mag.
Abgrenzung
Künstliche Intelligenz ist das Teilgebiet der Informatik. Das LLM ist eine Schlüsseltechnologie darin. Generative KI erzeugt Inhalte primär reaktiv. KI-Agenten verfolgen dagegen Ziele proaktiv: Sie planen mehrstufig und nutzen externe Schnittstellen und Werkzeuge. Ihre technische Grundlage sind überwiegend große Sprachmodelle. Ein LLM bildet damit häufig den Kern eines Chatbots oder KI-Agenten, ist aber nicht das ganze System.
Sprint und Swirl: Wie ein KI-Agent Arbeit aufteilt und aus Probeläufen lernt
LATS: Mehrere Wege gleichzeitig durchdenkt mit KI — und die Verfügbarkeitsprüfung in SAP B1
ReAct und RLEF: Wie Künstliche Intelligenz aus echten Fehlern lernt — und was der automatische Bankabgleich in SAP Business One damit zu tun hat
SAP B1 10.0 FP2608: Service Layer KI als transaktionalen Schicht
Process Reward Models: Warum ein richtiges Ergebnis noch keinen richtigen Weg beweist
