ChatGPT, Claude, Gemini — diese Namen begegnen uns täglich. Aber wissen Sie, welche Technologie dahintersteckt? Sie heißt LLM (Large Language Model), und wer sie versteht, kann KI-Werkzeuge deutlich gezielter einsetzen.

In diesem Leitfaden erklären wir verständlich und ohne Fachjargon, was ein LLM ist, wie es unter der Haube funktioniert, welche Modelle 2026 den Markt anführen und welche Grenzen Sie kennen sollten. Alles Wissenswerte über LLMs — kompakt an einem Ort.

1. Was ist ein LLM? — Die kurze Antwort

Ein Large Language Model (LLM) ist ein KI-System, das auf riesigen Textmengen trainiert wurde und menschliche Sprache verstehen und erzeugen kann.

Was die drei Begriffe bedeuten:

  • „Large“ (Groß): Trainiert auf Billionen von Wörtern aus Webseiten, Büchern, Forschungsarbeiten und mehr
  • „Language“ (Sprache): Spezialisiert auf die Verarbeitung und Erzeugung von Text
  • „Model“ (Modell): Ein mathematisches System, das Eingaben verarbeitet und Ausgaben erzeugt — im Grunde das „Gehirn“ der KI

ChatGPT basiert auf OpenAIs GPT-Reihe, Claude auf Anthropics Claude-Reihe und Gemini auf Googles Gemini-Reihe. Anders gesagt: Ein LLM ist der Motor, der Werkzeuge wie ChatGPT und Claude antreibt.

Eine einfache Erklärung

Im Kern funktioniert ein LLM durch Vorhersage des nächsten Wortes — ein erstaunlich simples Prinzip.

Wenn Sie „Das Wetter heute ist“ eingeben, berechnet das Modell die Wahrscheinlichkeit für Fortsetzungen wie „sonnig“, „bewölkt“ oder „regnerisch“ — basierend auf Mustern aus den Trainingsdaten. Es wählt die wahrscheinlichste Fortsetzung und wiederholt diesen Vorgang tausende Male, um vollständige Sätze, Absätze und sogar ganze Texte zu bilden.

2. Wie LLMs funktionieren — 3 zentrale Schritte

So wird aus Rohdaten ein System, das nützliche Antworten erzeugt — in drei Phasen.

Wie LLMs funktionieren — 3 Schritte

📚
Schritt 1
Vortraining
Verarbeitet riesige Textdaten
(Web, Bücher, Studien usw.)
und lernt durch Training,
das „nächste Wort
vorherzusagen“
Billionen von Tokens
🎯
Schritt 2
Feinabstimmung
Anpassung an
spezifische Aufgaben
Mit menschlichem Feedback
(RLHF) für sichere,
nützliche Antworten
An menschliche Präferenzen angepasst
💬
Schritt 3
Inferenz
Empfängt Benutzereingabe
(Prompt) und nutzt
erlerntes Wissen, um das
wahrscheinlichste „nächste
Wort“ fortlaufend zu erzeugen
Erzeugt Text Wort für Wort

* Basiert auf der Transformer-Architektur (Google, 2017)

Schritt 1: Vortraining

Das Modell verarbeitet einen riesigen Textkorpus — Webseiten, Bücher, wissenschaftliche Arbeiten, Wikipedia und mehr — mit Billionen von Tokens (Worteinheiten). In dieser Phase lernt es, indem es immer wieder das nächste Wort in einer Sequenz vorhersagt.

Zum Beispiel: Bei „Sein oder Nicht___“ lernt das Modell, „sein“ vorherzusagen. Durch Billionen solcher Vorhersagen eignet es sich Sprachmuster, Grammatik, Faktenwissen und sogar Schlussfolgerungsfähigkeiten an.

Diese Phase erfordert Tausende bis Zehntausende GPUs über Monate. Zur Einordnung: Der AI Index 2024 des Stanford HAI schätzte die Rechenkosten des Trainings auf rund 78 Millionen Dollar für GPT-4 und rund 191 Millionen Dollar für Googles Gemini Ultra (AI Index 2024). Beides sind Schätzungen für Modelle aus dem Jahr 2023; die Trainingskosten neuerer Modelle legen die Anbieter offiziell nicht offen.

Schritt 2: Feinabstimmung (RLHF)

Nach dem Vortraining kann das Modell Text erzeugen, besitzt aber keinen Filter — es kann schädliche oder nutzlose Inhalte produzieren. Bei der Feinabstimmung wird das Modell mit menschlichem Feedback trainiert, um gute von schlechten Antworten zu unterscheiden. Das macht es sicherer und nützlicher.

Diese Technik heißt RLHF (Reinforcement Learning from Human Feedback). Sie ist der Grund, warum ChatGPT höflich und hilfreich antwortet, statt ungefilterten Text auszugeben.

Schritt 3: Inferenz

Wenn Sie eine Frage stellen, erhält das LLM Ihren Prompt (Eingabetext) und nutzt sein trainiertes Wissen, um Wort für Wort den jeweils wahrscheinlichsten nächsten Begriff zu erzeugen. Deshalb erscheint der Text bei ChatGPT oder Claude zeichenweise auf dem Bildschirm.

Das Fundament: Die Transformer-Architektur

Nahezu jedes moderne LLM basiert auf der Transformer-Architektur, die Google 2017 vorgestellt hat. Ihre zentrale Neuerung ist der Attention-Mechanismus — ein System, das effizient erkennt, welche Wörter in einem Satz miteinander zusammenhängen, unabhängig von ihrer Entfernung.

Das „T“ in GPT steht übrigens für „Transformer“.

3. Die zwei Lager der LLMs — geschlossen und Open-Weight

Die LLM-Welt teilt sich in zwei Lager: geschlossene (proprietäre) Modelle und Open-Weight-Modelle. Einzelne Modellnamen werden binnen eines halben Jahres ausgetauscht — der Unterschied zwischen diesen beiden Lagern ist dagegen struktureller Natur, und die Frage, für welches Sie sich entscheiden, beantwortet sich immer nach denselben Kriterien.

Geschlossen (kommerzielle API)

Die Gewichte bleiben unter Verschluss, Sie nutzen das Modell ausschließlich über die API. Die Leistungsspitze liegt meist hier, und um Infrastruktur müssen Sie sich nie kümmern. Im Gegenzug laufen Ihre Daten über fremde Server, und Preisänderungen oder eine Abkündigung erfolgen nach dem Zeitplan des Anbieters, nicht nach Ihrem.

Open Weight

Die Gewichte werden verteilt, Sie können das Modell auf eigenen Servern betreiben. Ihre Daten verlassen das Haus nicht, und die Inferenz kostet auf eigener GPU nur Fixkosten. Aber „offen“ heißt nicht automatisch kommerziell frei — manche Lizenzen knüpfen Bedingungen daran. Lesen Sie die Lizenz also vor den Benchmarks.

Im Folgenden die wichtigsten Modellfamilien, nach Entwickler geordnet. Einzelne Versionsnamen wechseln alle paar Monate, deshalb stehen hier der Charakter jeder Familie und das, was Sie bei der Auswahl prüfen sollten. Die zwei Fragen, die über Ihr Lager entscheiden — dürfen Ihre Daten nach außen, und können Sie die Gewichte selbst halten — ändern sich nicht.

Wichtige LLM-Familien und worauf Sie achten sollten

GPT-FamilieGeschlossen
Entwickler: OpenAI
Dieselbe Familie wie ChatGPT; in Stufen: Flaggschiff Astra, das ausgewogene Sol und das günstige Luna
Prüfen: ob lange Eingaben in eine teurere Preisstufe fallen
Claude-FamilieGeschlossen
Entwickler: Anthropic
Stark bei Programmierung und Agenten; die Stufen heißen etwa Opus, Sonnet und Haiku
Prüfen: mit dem Modell beginnen, das die offizielle Dokumentation als Standard empfiehlt
Gemini-FamilieGeschlossen
Entwickler: Google
Multimodal mit langem Kontext; in die Google-Suche integriert
Prüfen: stabile Version (GA) oder Preview
Llama-Familie / Muse GlimmerOffene Gewichte
Entwickler: Meta
Llama 4 nutzt MoE, Muse Glimmer ist ein 30B-Modell für eine einzelne GPU
Prüfen: Llama hat eine eigene Lizenz, Muse Glimmer steht unter Apache 2.0
MistralOffene Gewichte
Entwickler: Mistral AI
MoE-Designs, die nur einen Teil des Modells aktivieren und so die Inferenz entlasten
Prüfen: die Lizenz jedes einzelnen Modells
Qwen-FamilieOffene Gewichte
Entwickler: Alibaba
MoE-Modelle, von denen einige auch Bilder und Videos verarbeiten
Prüfen: den Lizenznamen (nicht alle sind Apache 2.0)
DeepSeekOffene Gewichte
Entwickler: DeepSeek
Gewichte unter der MIT-Lizenz veröffentlicht; stark bei Reasoning und langen Texten
Prüfen: der API-Preis hängt von der Tageszeit ab

* Die aktuellen Versionsnamen und Wissensstichtage jeder Familie finden Sie in unserer Liste der wichtigsten KI-Modelle (Versionsnamen wechseln alle paar Monate und stehen deshalb nicht in dieser Übersicht). Die Lizenz steht auf der Modellkarte (Beispiele Stand September 2026: Mistral Large 3 = Apache 2.0 / Qwen3.8-Flash-Next = Qwen Community 1.0 / DeepSeek V4.1 Flash = MIT / Muse Glimmer = Apache 2.0 / Llama 4 = eigene Llama-Lizenz). Alle Anbieter haben auch leichtere Varianten.

Geschlossene Modelle (kommerzielle APIs)

FamilieEntwicklerStärkenWorauf bei der Auswahl achten
GPT-FamilieOpenAIAllrounder, multimodalAufschläge für lange Eingaben (Stand September 2026 verdoppelt GPT Astra den Eingabepreis ab 272K Tokens)
Claude-FamilieAnthropicStark bei Programmierung und Agenten, mit Schwerpunkt auf SicherheitMit welcher Stufe beginnen (die offizielle Modellübersicht nennt ein Standardmodell für den Einstieg)
Gemini-FamilieGoogleLanger Kontext, enge Integration mit der Google-SucheStabil oder Preview (Stand September 2026 ist das stärkste Modell, Gemini Pro, in der API noch eine Preview)

Einen detaillierten Preis- und Funktionsvergleich finden Sie in unserem Claude vs ChatGPT Preisvergleich.

Open-Source-Modelle

FamilieEntwicklerStärkenLizenz (Beispiele Stand September 2026)
Llama-Familie / Muse GlimmerMetaLlama 4 nutzt MoE; Muse Glimmer (August 2026) ist ein dichtes 30B-Modell für eine einzelne GPU (beide verarbeiten Bilder)Muse Glimmer steht unter Apache 2.0, Llama unter einer eigenen Lizenz (mit Nutzungsbedingungen)
MistralMistral AIMoE, das nur einen Teil des Modells aktiviert (Large 3 nutzt 41B seiner 675B Parameter)Large 3 und Small 4 stehen unter Apache 2.0, Medium 3.5 unter einer modifizierten MIT-Lizenz
Qwen-FamilieAlibabaMoE-Architektur, auch Modelle mit Bild- und VideoeingabeQwen3.8-Flash-Next steht unter Qwen Community 1.0 (nicht Apache 2.0)
DeepSeekDeepSeekStark bei Reasoning und langen Texten; außerhalb der Stoßzeiten kostet die API die HälfteDeepSeek V4.1 Flash und andere stehen unter der MIT-Lizenz

Der große Vorteil von Open-Source-Modellen: Sie können auf eigenen Servern betrieben werden, sodass Ihre Daten privat bleiben und Sie dennoch LLM-Fähigkeiten nutzen. Der rasante Aufstieg chinesischer Modelle wie DeepSeek und Qwen hat die Open-Source-Landschaft erheblich erweitert.

4. LLM vs. klassische KI vs. generative KI

AspektKlassische KILLMGenerative KI
DefinitionMaschinelles Lernen für spezifische AufgabenSprachmodell, trainiert auf riesigen TextmengenJede KI, die neue Inhalte erzeugt
FähigkeitenEinzelaufgaben wie Spam-Erkennung oder ProduktempfehlungenVielseitig: Texterstellung, Zusammenfassung, Übersetzung, Programmierung u. v. m.Erzeugt Text, Bilder, Audio und Video
FlexibilitätGering — jede Aufgabe braucht ein eigenes ModellHoch — ein Modell bewältigt viele verschiedene AufgabenHoch
BeispieleE-Mail-SpamfilterChatGPT, Claude, GeminiLLMs + Midjourney + Sora

Vereinfacht gesagt: Ein LLM ist eine textfokussierte Form der generativen KI — also eine Unterkategorie des breiteren Felds. Den vollständigen Überblick gibt unser Artikel Was ist generative KI?.

5. Einsatzgebiete von LLMs — Was ist möglich?

LLMs sind bemerkenswert vielseitig und kommen bereits in zahlreichen Bereichen zum Einsatz.

Geschäftliche Anwendungen

  • Dokumentenerstellung: Entwürfe für Berichte, E-Mails und Angebote in Sekunden generieren
  • Kundenservice: Automatische FAQ-Systeme und intelligente Chatbots aufbauen
  • Datenanalyse: CSV-Dateien einspeisen und Trends sowie Berichte automatisch erstellen lassen
  • Softwareentwicklung: Werkzeuge wie Claude Code oder Codex für Codegenerierung und Debugging nutzen

Private Nutzung

  • Lernen: Komplexe Themen von einem LLM erklären lassen und Verständnis vertiefen
  • Übersetzung und Sprachlernen: Natürliche Übersetzungen und Textkorrektur erhalten
  • Nebenverdienst: Produktivität bei Texterstellung, Bildgenerierung und Programmierung steigern (siehe unseren KI-Nebenverdienst-Leitfaden)
  • Alltag: Reisen planen, Rezeptideen erhalten, Terminplanung organisieren

Fachgebiete

  • Gesundheitswesen: Forschungsarbeiten zusammenfassen, Diagnose unterstützen (unter fachlicher Aufsicht)
  • Recht: Verträge prüfen, juristische Recherche beschleunigen
  • Bildung: Personalisierte Lernmaterialien automatisch erstellen
  • Forschung: Literaturrecherchen und Hypothesenbildung beschleunigen

6. Grenzen und Risiken

LLMs sind leistungsstark, aber alles andere als perfekt. Diese Einschränkungen sollten Sie kennen, bevor Sie sich darauf verlassen.

1. Halluzination

LLMs können Informationen erzeugen, die völlig überzeugend klingen, aber sachlich falsch sind. Wie oft das passiert, hängt stark von Aufgabe und Modell ab — eine einzelne Prozentzahl beschreibt es nicht. Ein Paper von OpenAI-Forschern aus dem Jahr 2025 führt eine Ursache auf Training und Bewertung zurück, die Raten höher belohnen als das Eingeständnis von Unsicherheit — so wie man im Multiple-Choice-Test mit Raten mehr Punkte holt als mit einem leeren Feld (Why Language Models Hallucinate).

Gegenmaßnahme: Wichtige Informationen immer anhand von Primärquellen überprüfen.

2. Wissensstichtag

Das Wissen eines LLMs endet an dem Datum, bis zu dem seine Trainingsdaten reichen. Prüfen Sie den Wissensstichtag der einzelnen Modelle und nutzen Sie Websuche-Integration (RAG) für alles, was aktuelle Informationen erfordert.

3. Verzerrung (Bias)

Vorurteile in den Trainingsdaten — darunter geschlechtsbezogene, ethnische und kulturelle Verzerrungen — können in den Ausgaben von LLMs auftauchen. Besonders kritisch ist das in Kontexten, die Fairness erfordern, etwa bei Personalauswahl und Leistungsbewertungen.

4. Datenschutz und Sicherheit

Wenn Sie ein cloudbasiertes LLM nutzen, werden Ihre Eingaben an die Server des Anbieters gesendet. Prüfen Sie immer die Datenschutzrichtlinien, bevor Sie vertrauliche oder persönliche Daten eingeben. Der Betrieb von Open-Source-Modellen auf eigener Infrastruktur ist eine Möglichkeit, dieses Risiko zu minimieren.

5. Kosten

Der großflächige Einsatz modernster LLMs kann API-Kosten von mehreren Tausend bis Zehntausend Euro pro Monat verursachen. Die beste Strategie: Klein anfangen, den ROI messen und schrittweise skalieren.

7. Was die Funktionsweise über gute Anfragen verrät

Wer den obigen Mechanismus kennt — LLMs lesen Text in Bruchstücken, den sogenannten Tokens, wählen das nächste Wort nach Wahrscheinlichkeit und wissen nur, was in ihren Trainingsdaten bis zum Stichtag stand –, kann vorhersagen, welche Anfragen schlecht funktionieren und wie man sie umformuliert.

Anfrage, die oft scheitertWarum, gemessen an der FunktionsweiseStattdessen so fragen
„Wie viele r hat dieses Wort?“ „Wie viele Zeichen hat dieser Text genau?“LLMs lesen Tokens statt einzelner Zeichen, daher geht Buchstabenzählen leicht schief. Laut Anthropic entspricht ein Claude-Token etwa 3,5 englischen Zeichen, je nach Sprache unterschiedlich (Glossar).Lassen Sie Code oder ein Werkzeug zählen („zähl es mit Python“). Geben Sie Längengrenzen mit Puffer vor und zählen Sie am Ende selbst nach.
„Wie steht der Wechselkurs heute?“ „Was hat sich an den Regeln zuletzt geändert?“Das Wissen endet am Stichtag der Trainingsdaten.Websuche einschalten, Quell-URLs anfordern und diese Seiten selbst öffnen.
„Wann wurde Firma X gegründet, und wie hoch ist ihr Stammkapital?“ (ohne Quelle)Auch ohne Wissen liefert es eine plausible Fortsetzung. Forschung deutet darauf hin, dass die Art der Bewertung Raten fördert.Ergänzen Sie „Wenn du es nicht weißt, sag es“ und prüfen Sie Zahlen an einer Quelle.
Dieselbe Frage noch einmal gestellt ergibt eine andere AntwortDas nächste Wort wird nach Wahrscheinlichkeit gewählt, daher sind Ausgaben nicht immer identisch. Anthropic stellt klar, dass selbst bei temperature 0 die Ergebnisse nicht vollständig deterministisch sind (Glossar).Bei wichtigen Entscheidungen die Bedingungen schriftlich festlegen, zwei- bis dreimal fragen und prüfen, wo die Antworten abweichen.
Ein langes Dokument einfügen und fragen „Was sind die Kernpunkte?“Es sieht nur, was im Kontext steht; nicht genannte Hintergründe und Ihr Ziel kennt es nicht.Sagen Sie, für wen und wozu, grenzen Sie den Umfang ein („nur Kapitel 3“) und schreiben Sie nötige Hintergründe dazu.

All das folgt aus einem einzigen Punkt: Ein LLM sagt voraus, wie ein Text weitergeht — Fakten zu prüfen ist Aufgabe von Menschen und Werkzeugen. Wie Sie Anfragen weiter schärfen, zeigt Prompts schreiben (KI-Einsteigerkurs); wie viel Sie auf einmal übergeben können, erklärt Was ist ein Kontextfenster?

Multimodale Fähigkeiten

LLMs entwickeln sich über reinen Text hinaus und können Bilder, Audio und Video gleichzeitig verstehen und erzeugen. Führende Modelle wie GPT, Gemini Pro und Claude Opus beantworten Fragen zu Bildern und führen Sprachgespräche in Echtzeit.

Kleinere Modelle, höhere Effizienz

Fortschritte bei der MoE-Architektur (Mixture of Experts) und Modellkomprimierung ermöglichen drastische Kostensenkungen ohne Leistungseinbußen. Ein Paradebeispiel dafür ist Mistral Large 3: Von insgesamt 675B Parametern werden pro Token nur 41B aktiviert (Modellkarte von Mistral).

KI-Agenten

LLMs gehen über einfache Frage-und-Antwort-Dialoge hinaus und werden zu KI-Agenten, die mehrstufige Aufgaben planen und ausführen. Webrecherche, das Verstehen und Bearbeiten ganzer Codebasen und die Steuerung mehrerer Werkzeuge — was vor einem Jahr noch unmöglich war, ist heute Realität.

Durchbrüche beim logischen Denken

OpenAIs GPT (Spitzenmodell: Astra) und Anthropics Claude (Spitzenmodell: Fable) erzielen bei mathematischem und logischem Denken Ergebnisse auf Expertenniveau. „Inference-Time Scaling“ — mehr Rechenzeit bei der Antwortgenerierung für bessere Qualität — ist ein bedeutender neuer Trend.

Der Open-Source-Boom

Meta (Llama, Muse Glimmer), Alibaba (Qwen) und DeepSeek veröffentlichen Open-Source-LLMs, die mit proprietären Modellen mithalten. Das gibt Unternehmen die Möglichkeit, LLM-Fähigkeiten zu nutzen und dabei alle Daten vollständig im eigenen Haus zu behalten.

9. Zusammenfassung

ThemaKernaussage
Was ist ein LLM?Ein KI-Modell, das auf riesigen Textmengen trainiert wurde, um natürliche Sprache zu verstehen und zu erzeugen
FunktionsweiseVortraining → Feinabstimmung (RLHF) → Inferenz (erzeugt Text durch Vorhersage des nächsten Wortes)
Wichtige FamilienGeschlossen: GPT (OpenAI), Claude (Anthropic), Gemini (Google). Offene Gewichte: Llama und Muse Glimmer (Meta), Mistral, Qwen (Alibaba), DeepSeek
Zentrale RisikenHalluzination, Wissensstichtag, Verzerrung, Datenschutz, Kosten
Trends 2026Multimodal, Effizienzgewinne, KI-Agenten, besseres Denkvermögen, Open-Source-Wachstum

Ein LLM ist der Motor hinter Werkzeugen wie ChatGPT und Claude. Wer versteht, wie dieser Motor funktioniert, wird KI-Werkzeuge deutlich effektiver — und kritischer — nutzen.

Sie möchten ein solides KI-Fundament aufbauen? Dann starten Sie mit unserem KI-Einsteigerkurs. Neugierig, wo Sie stehen? Machen Sie unseren KI-Wissenstest.

Wenn Sie verstanden haben, was ein LLM ist, folgt als Nächstes, selbst eines zu betreiben. Lesen Sie wie man ein Local LLM betreibt, um KI ohne Cloud auf dem eigenen PC laufen zu lassen.

FAQ

Sind LLMs und generative KI dasselbe?

Nicht ganz. Ein LLM ist eine Form der generativen KI, die auf Text spezialisiert ist. Generative KI ist die übergeordnete Kategorie und umfasst auch Bildgeneratoren (Midjourney, GPT Image), Audiogeneratoren und Videogeneratoren (Sora). Mehr dazu erfahren Sie in unserem Artikel Was ist generative KI?.

Brauche ich Programmierkenntnisse, um ein LLM zu nutzen?

Für den alltäglichen Gebrauch nicht. Sie können mit Werkzeugen wie ChatGPT oder Claude ganz normal in Ihrer Sprache chatten — ohne eine Zeile Code. Wenn Sie ein LLM jedoch über seine API in eine eigene Anwendung integrieren möchten, sind Programmierkenntnisse erforderlich.

Was ist der Unterschied zwischen Open-Source- und geschlossenen LLMs?

Geschlossene Modelle (GPT, Claude, Gemini usw.) sind nur über APIs oder Weboberflächen zugänglich, und ihre Funktionsweise ist proprietär. Open-Source-Modelle (Llama, Mistral, Qwen usw.) veröffentlichen ihre Modellgewichte, sodass Sie sie herunterladen und auf eigenen Servern betreiben können. Unternehmen, denen Datenschutz besonders wichtig ist, setzen zunehmend auf Open-Source-Lösungen.

Werden LLM-Halluzinationen jemals vollständig beseitigt?

Eine vollständige Lösung ist unwahrscheinlich. LLMs sagen das nächste Wort anhand von Wahrscheinlichkeiten voraus; sie prüfen keine Fakten, bevor sie antworten. Das genannte Paper argumentiert, dass ein Teil der Abhilfe darin liegt, Bewertungen so zu ändern, dass sie „Ich weiß es nicht“ nicht mehr bestrafen. Als Nutzer können Sie Quelldokumente per RAG (Retrieval-Augmented Generation) mitgeben, zitierte URLs selbst öffnen und das Modell anweisen, Nichtwissen offen zu sagen. Am Ende bleibt die Regel „Ein Mensch prüft KI-Ergebnisse immer“ der zuverlässigste Schutz.