Inhaltsverzeichnis
- 1. Was ist ein LLM? — Die kurze Antwort
- 2. Wie LLMs funktionieren — 3 zentrale Schritte
- 3. Die zwei Lager der LLMs — geschlossen und Open-Weight
- 4. LLM vs. klassische KI vs. generative KI
- 5. Einsatzgebiete von LLMs — Was ist möglich?
- 6. Grenzen und Risiken
- 7. Was die Funktionsweise über gute Anfragen verrät
- 8. Trends 2026 — Wohin entwickeln sich LLMs?
- 9. Zusammenfassung
- FAQ
ChatGPT, Claude, Gemini — diese Namen begegnen uns täglich. Aber wissen Sie, welche Technologie dahintersteckt? Sie heißt LLM (Large Language Model), und wer sie versteht, kann KI-Werkzeuge deutlich gezielter einsetzen.
In diesem Leitfaden erklären wir verständlich und ohne Fachjargon, was ein LLM ist, wie es unter der Haube funktioniert, welche Modelle 2026 den Markt anführen und welche Grenzen Sie kennen sollten. Alles Wissenswerte über LLMs — kompakt an einem Ort.
1. Was ist ein LLM? — Die kurze Antwort
Ein Large Language Model (LLM) ist ein KI-System, das auf riesigen Textmengen trainiert wurde und menschliche Sprache verstehen und erzeugen kann.
Was die drei Begriffe bedeuten:
- „Large“ (Groß): Trainiert auf Billionen von Wörtern aus Webseiten, Büchern, Forschungsarbeiten und mehr
- „Language“ (Sprache): Spezialisiert auf die Verarbeitung und Erzeugung von Text
- „Model“ (Modell): Ein mathematisches System, das Eingaben verarbeitet und Ausgaben erzeugt — im Grunde das „Gehirn“ der KI
ChatGPT basiert auf OpenAIs GPT-Reihe, Claude auf Anthropics Claude-Reihe und Gemini auf Googles Gemini-Reihe. Anders gesagt: Ein LLM ist der Motor, der Werkzeuge wie ChatGPT und Claude antreibt.
Eine einfache Erklärung
Im Kern funktioniert ein LLM durch Vorhersage des nächsten Wortes — ein erstaunlich simples Prinzip.
Wenn Sie „Das Wetter heute ist“ eingeben, berechnet das Modell die Wahrscheinlichkeit für Fortsetzungen wie „sonnig“, „bewölkt“ oder „regnerisch“ — basierend auf Mustern aus den Trainingsdaten. Es wählt die wahrscheinlichste Fortsetzung und wiederholt diesen Vorgang tausende Male, um vollständige Sätze, Absätze und sogar ganze Texte zu bilden.
2. Wie LLMs funktionieren — 3 zentrale Schritte
So wird aus Rohdaten ein System, das nützliche Antworten erzeugt — in drei Phasen.
Wie LLMs funktionieren — 3 Schritte
* Basiert auf der Transformer-Architektur (Google, 2017)
Schritt 1: Vortraining
Das Modell verarbeitet einen riesigen Textkorpus — Webseiten, Bücher, wissenschaftliche Arbeiten, Wikipedia und mehr — mit Billionen von Tokens (Worteinheiten). In dieser Phase lernt es, indem es immer wieder das nächste Wort in einer Sequenz vorhersagt.
Zum Beispiel: Bei „Sein oder Nicht___“ lernt das Modell, „sein“ vorherzusagen. Durch Billionen solcher Vorhersagen eignet es sich Sprachmuster, Grammatik, Faktenwissen und sogar Schlussfolgerungsfähigkeiten an.
Diese Phase erfordert Tausende bis Zehntausende GPUs über Monate. Zur Einordnung: Der AI Index 2024 des Stanford HAI schätzte die Rechenkosten des Trainings auf rund 78 Millionen Dollar für GPT-4 und rund 191 Millionen Dollar für Googles Gemini Ultra (AI Index 2024). Beides sind Schätzungen für Modelle aus dem Jahr 2023; die Trainingskosten neuerer Modelle legen die Anbieter offiziell nicht offen.
Schritt 2: Feinabstimmung (RLHF)
Nach dem Vortraining kann das Modell Text erzeugen, besitzt aber keinen Filter — es kann schädliche oder nutzlose Inhalte produzieren. Bei der Feinabstimmung wird das Modell mit menschlichem Feedback trainiert, um gute von schlechten Antworten zu unterscheiden. Das macht es sicherer und nützlicher.
Diese Technik heißt RLHF (Reinforcement Learning from Human Feedback). Sie ist der Grund, warum ChatGPT höflich und hilfreich antwortet, statt ungefilterten Text auszugeben.
Schritt 3: Inferenz
Wenn Sie eine Frage stellen, erhält das LLM Ihren Prompt (Eingabetext) und nutzt sein trainiertes Wissen, um Wort für Wort den jeweils wahrscheinlichsten nächsten Begriff zu erzeugen. Deshalb erscheint der Text bei ChatGPT oder Claude zeichenweise auf dem Bildschirm.
Das Fundament: Die Transformer-Architektur
Nahezu jedes moderne LLM basiert auf der Transformer-Architektur, die Google 2017 vorgestellt hat. Ihre zentrale Neuerung ist der Attention-Mechanismus — ein System, das effizient erkennt, welche Wörter in einem Satz miteinander zusammenhängen, unabhängig von ihrer Entfernung.
Das „T“ in GPT steht übrigens für „Transformer“.
3. Die zwei Lager der LLMs — geschlossen und Open-Weight
Die LLM-Welt teilt sich in zwei Lager: geschlossene (proprietäre) Modelle und Open-Weight-Modelle. Einzelne Modellnamen werden binnen eines halben Jahres ausgetauscht — der Unterschied zwischen diesen beiden Lagern ist dagegen struktureller Natur, und die Frage, für welches Sie sich entscheiden, beantwortet sich immer nach denselben Kriterien.
Die Gewichte bleiben unter Verschluss, Sie nutzen das Modell ausschließlich über die API. Die Leistungsspitze liegt meist hier, und um Infrastruktur müssen Sie sich nie kümmern. Im Gegenzug laufen Ihre Daten über fremde Server, und Preisänderungen oder eine Abkündigung erfolgen nach dem Zeitplan des Anbieters, nicht nach Ihrem.
Die Gewichte werden verteilt, Sie können das Modell auf eigenen Servern betreiben. Ihre Daten verlassen das Haus nicht, und die Inferenz kostet auf eigener GPU nur Fixkosten. Aber „offen“ heißt nicht automatisch kommerziell frei — manche Lizenzen knüpfen Bedingungen daran. Lesen Sie die Lizenz also vor den Benchmarks.
Im Folgenden die wichtigsten Modellfamilien, nach Entwickler geordnet. Einzelne Versionsnamen wechseln alle paar Monate, deshalb stehen hier der Charakter jeder Familie und das, was Sie bei der Auswahl prüfen sollten. Die zwei Fragen, die über Ihr Lager entscheiden — dürfen Ihre Daten nach außen, und können Sie die Gewichte selbst halten — ändern sich nicht.
Wichtige LLM-Familien und worauf Sie achten sollten
* Die aktuellen Versionsnamen und Wissensstichtage jeder Familie finden Sie in unserer Liste der wichtigsten KI-Modelle (Versionsnamen wechseln alle paar Monate und stehen deshalb nicht in dieser Übersicht). Die Lizenz steht auf der Modellkarte (Beispiele Stand September 2026: Mistral Large 3 = Apache 2.0 / Qwen3.8-Flash-Next = Qwen Community 1.0 / DeepSeek V4.1 Flash = MIT / Muse Glimmer = Apache 2.0 / Llama 4 = eigene Llama-Lizenz). Alle Anbieter haben auch leichtere Varianten.
Geschlossene Modelle (kommerzielle APIs)
| Familie | Entwickler | Stärken | Worauf bei der Auswahl achten |
|---|---|---|---|
| GPT-Familie | OpenAI | Allrounder, multimodal | Aufschläge für lange Eingaben (Stand September 2026 verdoppelt GPT Astra den Eingabepreis ab 272K Tokens) |
| Claude-Familie | Anthropic | Stark bei Programmierung und Agenten, mit Schwerpunkt auf Sicherheit | Mit welcher Stufe beginnen (die offizielle Modellübersicht nennt ein Standardmodell für den Einstieg) |
| Gemini-Familie | Langer Kontext, enge Integration mit der Google-Suche | Stabil oder Preview (Stand September 2026 ist das stärkste Modell, Gemini Pro, in der API noch eine Preview) |
Einen detaillierten Preis- und Funktionsvergleich finden Sie in unserem Claude vs ChatGPT Preisvergleich.
Open-Source-Modelle
| Familie | Entwickler | Stärken | Lizenz (Beispiele Stand September 2026) |
|---|---|---|---|
| Llama-Familie / Muse Glimmer | Meta | Llama 4 nutzt MoE; Muse Glimmer (August 2026) ist ein dichtes 30B-Modell für eine einzelne GPU (beide verarbeiten Bilder) | Muse Glimmer steht unter Apache 2.0, Llama unter einer eigenen Lizenz (mit Nutzungsbedingungen) |
| Mistral | Mistral AI | MoE, das nur einen Teil des Modells aktiviert (Large 3 nutzt 41B seiner 675B Parameter) | Large 3 und Small 4 stehen unter Apache 2.0, Medium 3.5 unter einer modifizierten MIT-Lizenz |
| Qwen-Familie | Alibaba | MoE-Architektur, auch Modelle mit Bild- und Videoeingabe | Qwen3.8-Flash-Next steht unter Qwen Community 1.0 (nicht Apache 2.0) |
| DeepSeek | DeepSeek | Stark bei Reasoning und langen Texten; außerhalb der Stoßzeiten kostet die API die Hälfte | DeepSeek V4.1 Flash und andere stehen unter der MIT-Lizenz |
Der große Vorteil von Open-Source-Modellen: Sie können auf eigenen Servern betrieben werden, sodass Ihre Daten privat bleiben und Sie dennoch LLM-Fähigkeiten nutzen. Der rasante Aufstieg chinesischer Modelle wie DeepSeek und Qwen hat die Open-Source-Landschaft erheblich erweitert.
4. LLM vs. klassische KI vs. generative KI
| Aspekt | Klassische KI | LLM | Generative KI |
|---|---|---|---|
| Definition | Maschinelles Lernen für spezifische Aufgaben | Sprachmodell, trainiert auf riesigen Textmengen | Jede KI, die neue Inhalte erzeugt |
| Fähigkeiten | Einzelaufgaben wie Spam-Erkennung oder Produktempfehlungen | Vielseitig: Texterstellung, Zusammenfassung, Übersetzung, Programmierung u. v. m. | Erzeugt Text, Bilder, Audio und Video |
| Flexibilität | Gering — jede Aufgabe braucht ein eigenes Modell | Hoch — ein Modell bewältigt viele verschiedene Aufgaben | Hoch |
| Beispiele | E-Mail-Spamfilter | ChatGPT, Claude, Gemini | LLMs + Midjourney + Sora |
Vereinfacht gesagt: Ein LLM ist eine textfokussierte Form der generativen KI — also eine Unterkategorie des breiteren Felds. Den vollständigen Überblick gibt unser Artikel Was ist generative KI?.
5. Einsatzgebiete von LLMs — Was ist möglich?
LLMs sind bemerkenswert vielseitig und kommen bereits in zahlreichen Bereichen zum Einsatz.
Geschäftliche Anwendungen
- Dokumentenerstellung: Entwürfe für Berichte, E-Mails und Angebote in Sekunden generieren
- Kundenservice: Automatische FAQ-Systeme und intelligente Chatbots aufbauen
- Datenanalyse: CSV-Dateien einspeisen und Trends sowie Berichte automatisch erstellen lassen
- Softwareentwicklung: Werkzeuge wie Claude Code oder Codex für Codegenerierung und Debugging nutzen
Private Nutzung
- Lernen: Komplexe Themen von einem LLM erklären lassen und Verständnis vertiefen
- Übersetzung und Sprachlernen: Natürliche Übersetzungen und Textkorrektur erhalten
- Nebenverdienst: Produktivität bei Texterstellung, Bildgenerierung und Programmierung steigern (siehe unseren KI-Nebenverdienst-Leitfaden)
- Alltag: Reisen planen, Rezeptideen erhalten, Terminplanung organisieren
Fachgebiete
- Gesundheitswesen: Forschungsarbeiten zusammenfassen, Diagnose unterstützen (unter fachlicher Aufsicht)
- Recht: Verträge prüfen, juristische Recherche beschleunigen
- Bildung: Personalisierte Lernmaterialien automatisch erstellen
- Forschung: Literaturrecherchen und Hypothesenbildung beschleunigen
6. Grenzen und Risiken
LLMs sind leistungsstark, aber alles andere als perfekt. Diese Einschränkungen sollten Sie kennen, bevor Sie sich darauf verlassen.
1. Halluzination
LLMs können Informationen erzeugen, die völlig überzeugend klingen, aber sachlich falsch sind. Wie oft das passiert, hängt stark von Aufgabe und Modell ab — eine einzelne Prozentzahl beschreibt es nicht. Ein Paper von OpenAI-Forschern aus dem Jahr 2025 führt eine Ursache auf Training und Bewertung zurück, die Raten höher belohnen als das Eingeständnis von Unsicherheit — so wie man im Multiple-Choice-Test mit Raten mehr Punkte holt als mit einem leeren Feld (Why Language Models Hallucinate).
Gegenmaßnahme: Wichtige Informationen immer anhand von Primärquellen überprüfen.
2. Wissensstichtag
Das Wissen eines LLMs endet an dem Datum, bis zu dem seine Trainingsdaten reichen. Prüfen Sie den Wissensstichtag der einzelnen Modelle und nutzen Sie Websuche-Integration (RAG) für alles, was aktuelle Informationen erfordert.
3. Verzerrung (Bias)
Vorurteile in den Trainingsdaten — darunter geschlechtsbezogene, ethnische und kulturelle Verzerrungen — können in den Ausgaben von LLMs auftauchen. Besonders kritisch ist das in Kontexten, die Fairness erfordern, etwa bei Personalauswahl und Leistungsbewertungen.
4. Datenschutz und Sicherheit
Wenn Sie ein cloudbasiertes LLM nutzen, werden Ihre Eingaben an die Server des Anbieters gesendet. Prüfen Sie immer die Datenschutzrichtlinien, bevor Sie vertrauliche oder persönliche Daten eingeben. Der Betrieb von Open-Source-Modellen auf eigener Infrastruktur ist eine Möglichkeit, dieses Risiko zu minimieren.
5. Kosten
Der großflächige Einsatz modernster LLMs kann API-Kosten von mehreren Tausend bis Zehntausend Euro pro Monat verursachen. Die beste Strategie: Klein anfangen, den ROI messen und schrittweise skalieren.
7. Was die Funktionsweise über gute Anfragen verrät
Wer den obigen Mechanismus kennt — LLMs lesen Text in Bruchstücken, den sogenannten Tokens, wählen das nächste Wort nach Wahrscheinlichkeit und wissen nur, was in ihren Trainingsdaten bis zum Stichtag stand –, kann vorhersagen, welche Anfragen schlecht funktionieren und wie man sie umformuliert.
| Anfrage, die oft scheitert | Warum, gemessen an der Funktionsweise | Stattdessen so fragen |
|---|---|---|
| „Wie viele r hat dieses Wort?“ „Wie viele Zeichen hat dieser Text genau?“ | LLMs lesen Tokens statt einzelner Zeichen, daher geht Buchstabenzählen leicht schief. Laut Anthropic entspricht ein Claude-Token etwa 3,5 englischen Zeichen, je nach Sprache unterschiedlich (Glossar). | Lassen Sie Code oder ein Werkzeug zählen („zähl es mit Python“). Geben Sie Längengrenzen mit Puffer vor und zählen Sie am Ende selbst nach. |
| „Wie steht der Wechselkurs heute?“ „Was hat sich an den Regeln zuletzt geändert?“ | Das Wissen endet am Stichtag der Trainingsdaten. | Websuche einschalten, Quell-URLs anfordern und diese Seiten selbst öffnen. |
| „Wann wurde Firma X gegründet, und wie hoch ist ihr Stammkapital?“ (ohne Quelle) | Auch ohne Wissen liefert es eine plausible Fortsetzung. Forschung deutet darauf hin, dass die Art der Bewertung Raten fördert. | Ergänzen Sie „Wenn du es nicht weißt, sag es“ und prüfen Sie Zahlen an einer Quelle. |
| Dieselbe Frage noch einmal gestellt ergibt eine andere Antwort | Das nächste Wort wird nach Wahrscheinlichkeit gewählt, daher sind Ausgaben nicht immer identisch. Anthropic stellt klar, dass selbst bei temperature 0 die Ergebnisse nicht vollständig deterministisch sind (Glossar). | Bei wichtigen Entscheidungen die Bedingungen schriftlich festlegen, zwei- bis dreimal fragen und prüfen, wo die Antworten abweichen. |
| Ein langes Dokument einfügen und fragen „Was sind die Kernpunkte?“ | Es sieht nur, was im Kontext steht; nicht genannte Hintergründe und Ihr Ziel kennt es nicht. | Sagen Sie, für wen und wozu, grenzen Sie den Umfang ein („nur Kapitel 3“) und schreiben Sie nötige Hintergründe dazu. |
All das folgt aus einem einzigen Punkt: Ein LLM sagt voraus, wie ein Text weitergeht — Fakten zu prüfen ist Aufgabe von Menschen und Werkzeugen. Wie Sie Anfragen weiter schärfen, zeigt Prompts schreiben (KI-Einsteigerkurs); wie viel Sie auf einmal übergeben können, erklärt Was ist ein Kontextfenster?
8. Trends 2026 — Wohin entwickeln sich LLMs?
Multimodale Fähigkeiten
LLMs entwickeln sich über reinen Text hinaus und können Bilder, Audio und Video gleichzeitig verstehen und erzeugen. Führende Modelle wie GPT, Gemini Pro und Claude Opus beantworten Fragen zu Bildern und führen Sprachgespräche in Echtzeit.
Kleinere Modelle, höhere Effizienz
Fortschritte bei der MoE-Architektur (Mixture of Experts) und Modellkomprimierung ermöglichen drastische Kostensenkungen ohne Leistungseinbußen. Ein Paradebeispiel dafür ist Mistral Large 3: Von insgesamt 675B Parametern werden pro Token nur 41B aktiviert (Modellkarte von Mistral).
KI-Agenten
LLMs gehen über einfache Frage-und-Antwort-Dialoge hinaus und werden zu KI-Agenten, die mehrstufige Aufgaben planen und ausführen. Webrecherche, das Verstehen und Bearbeiten ganzer Codebasen und die Steuerung mehrerer Werkzeuge — was vor einem Jahr noch unmöglich war, ist heute Realität.
Durchbrüche beim logischen Denken
OpenAIs GPT (Spitzenmodell: Astra) und Anthropics Claude (Spitzenmodell: Fable) erzielen bei mathematischem und logischem Denken Ergebnisse auf Expertenniveau. „Inference-Time Scaling“ — mehr Rechenzeit bei der Antwortgenerierung für bessere Qualität — ist ein bedeutender neuer Trend.
Der Open-Source-Boom
Meta (Llama, Muse Glimmer), Alibaba (Qwen) und DeepSeek veröffentlichen Open-Source-LLMs, die mit proprietären Modellen mithalten. Das gibt Unternehmen die Möglichkeit, LLM-Fähigkeiten zu nutzen und dabei alle Daten vollständig im eigenen Haus zu behalten.
9. Zusammenfassung
| Thema | Kernaussage |
|---|---|
| Was ist ein LLM? | Ein KI-Modell, das auf riesigen Textmengen trainiert wurde, um natürliche Sprache zu verstehen und zu erzeugen |
| Funktionsweise | Vortraining → Feinabstimmung (RLHF) → Inferenz (erzeugt Text durch Vorhersage des nächsten Wortes) |
| Wichtige Familien | Geschlossen: GPT (OpenAI), Claude (Anthropic), Gemini (Google). Offene Gewichte: Llama und Muse Glimmer (Meta), Mistral, Qwen (Alibaba), DeepSeek |
| Zentrale Risiken | Halluzination, Wissensstichtag, Verzerrung, Datenschutz, Kosten |
| Trends 2026 | Multimodal, Effizienzgewinne, KI-Agenten, besseres Denkvermögen, Open-Source-Wachstum |
Ein LLM ist der Motor hinter Werkzeugen wie ChatGPT und Claude. Wer versteht, wie dieser Motor funktioniert, wird KI-Werkzeuge deutlich effektiver — und kritischer — nutzen.
Sie möchten ein solides KI-Fundament aufbauen? Dann starten Sie mit unserem KI-Einsteigerkurs. Neugierig, wo Sie stehen? Machen Sie unseren KI-Wissenstest.
Wenn Sie verstanden haben, was ein LLM ist, folgt als Nächstes, selbst eines zu betreiben. Lesen Sie wie man ein Local LLM betreibt, um KI ohne Cloud auf dem eigenen PC laufen zu lassen.
FAQ
Sind LLMs und generative KI dasselbe?
Nicht ganz. Ein LLM ist eine Form der generativen KI, die auf Text spezialisiert ist. Generative KI ist die übergeordnete Kategorie und umfasst auch Bildgeneratoren (Midjourney, GPT Image), Audiogeneratoren und Videogeneratoren (Sora). Mehr dazu erfahren Sie in unserem Artikel Was ist generative KI?.
Brauche ich Programmierkenntnisse, um ein LLM zu nutzen?
Für den alltäglichen Gebrauch nicht. Sie können mit Werkzeugen wie ChatGPT oder Claude ganz normal in Ihrer Sprache chatten — ohne eine Zeile Code. Wenn Sie ein LLM jedoch über seine API in eine eigene Anwendung integrieren möchten, sind Programmierkenntnisse erforderlich.
Was ist der Unterschied zwischen Open-Source- und geschlossenen LLMs?
Geschlossene Modelle (GPT, Claude, Gemini usw.) sind nur über APIs oder Weboberflächen zugänglich, und ihre Funktionsweise ist proprietär. Open-Source-Modelle (Llama, Mistral, Qwen usw.) veröffentlichen ihre Modellgewichte, sodass Sie sie herunterladen und auf eigenen Servern betreiben können. Unternehmen, denen Datenschutz besonders wichtig ist, setzen zunehmend auf Open-Source-Lösungen.
Werden LLM-Halluzinationen jemals vollständig beseitigt?
Eine vollständige Lösung ist unwahrscheinlich. LLMs sagen das nächste Wort anhand von Wahrscheinlichkeiten voraus; sie prüfen keine Fakten, bevor sie antworten. Das genannte Paper argumentiert, dass ein Teil der Abhilfe darin liegt, Bewertungen so zu ändern, dass sie „Ich weiß es nicht“ nicht mehr bestrafen. Als Nutzer können Sie Quelldokumente per RAG (Retrieval-Augmented Generation) mitgeben, zitierte URLs selbst öffnen und das Modell anweisen, Nichtwissen offen zu sagen. Am Ende bleibt die Regel „Ein Mensch prüft KI-Ergebnisse immer“ der zuverlässigste Schutz.