Was ist Fine-Tuning? RAG, Datenbedarf, Kosten und Voraussetzungen

„Ich möchte die KI an mein Unternehmen anpassen.“ Eine Möglichkeit ist Fine-Tuning: das zusätzliche Training eines vortrainierten LLM mit Daten für einen bestimmten Einsatz. Datenbedarf, Kosten und verfügbare Dienste unterscheiden sich. Ermitteln Sie deshalb zuerst einen Ausgangswert, an dem sich Verbesserungen messen lassen. Dieser Einsteigerleitfaden erklärt die Funktionsweise und Stärken, den Vergleich mit RAG und Prompting, die wichtigsten Methoden, Voraussetzungen und ersten Schritte.

1. Was ist Fine-Tuning?

Fine-Tuning bedeutet, ein bereits trainiertes KI-Modell (das Basismodell) mit Daten für den eigenen Anwendungsfall weiterzutrainieren, um seine Antwortmuster anzupassen. Beispiele sind Antworten im Unternehmensstil, ein bestimmtes Ausgabeformat oder der Umgang mit Fachbegriffen. Ziel ist es, dem Modell selbst diese Muster beizubringen.

Vergleichbar ist das mit der Einarbeitung neuer Mitarbeiter. Auch ein fähiger Neuzugang – das Basismodell – kennt die Abläufe Ihres Unternehmens noch nicht. Training anhand betrieblicher Beispiele soll Antworten daran anpassen und ermöglicht die Prüfung, ob kürzere Anweisungen ausreichen. Fine-Tuning verändert Modellgewichte (Parameter) oder zusätzliche Adapter.

Ein „angepasstes Modell“ bedeutet nicht, dass Ihnen das zugrunde liegende Modell gehört. Unterscheiden Sie zwischen dem Zugriff über eine API und einem Modell, dessen Gewichte Sie selbst verwalten, und prüfen Sie Lizenz und Weitergabebedingungen des Basismodells.

2. Stärken und Grenzen

Ein falsch verstandener Zweck kann zum Scheitern führen. Fine-Tuning ist eine Möglichkeit, Antwortmuster wie Stil, Klassifizierung und das Befolgen von Anweisungen anzupassen; es ist kein Mechanismus, der nach dem Training erschienene Informationen automatisch übernimmt.

Wenn aktuelle Informationen oder interne Daten korrekt verarbeitet werden sollen, passt RAG (Informationen abrufen und dem Kontext hinzufügen) besser als Fine-Tuning. Fine-Tuning kann Antworten einem gewünschten Ton oder Format annähern. Für ein Format wie JSON sollten Sie auch strukturierte Ausgaben unterstützter Modelle vergleichen. OpenAIs Leitfaden zu strukturierten Ausgaben unterscheidet die Einhaltung des Formats von der inhaltlichen Richtigkeit der Werte und erklärt den Umgang mit Ablehnungen.

3. RAG, Prompting oder Fine-Tuning?

Diese drei verbreiteten Ansätze zur Anpassung von KI haben unterschiedliche Aufgaben und Kostentreiber. Die Tabelle gibt einen Überblick.

Als Orientierung hilft: „RAG für Fakten und Wissen; Fine-Tuning für Verhalten und Muster; zuerst die Prompts.“ Im Betrieb können Sie RAG zur Bereitstellung von Dokumenten mit Fine-Tuning zur Anpassung der Antworten kombinieren. Nicht jedes System braucht beides. Dazu passt das Thema Context Engineering.

4. Methoden: vollständiges Fine-Tuning, LoRA und QLoRA

SFT lernt aus gewünschten Ausgaben. DPO nutzt Präferenzen für Antworten, RFT Signale wie die Bewertungen eines Graders. Vollständiges Fine-Tuning, LoRA und QLoRA bilden dagegen eine andere Einteilung: Sie betreffen die aktualisierten Parameter und die numerische Präzision. API-Dienste erlauben nicht unbedingt die freie Wahl der internen Umsetzung. Siehe OpenAIs Leitfaden zu Trainingsmethoden.

Es gibt mehrere Verfahren für Fine-Tuning. Für den Einstieg sollten Sie zunächst diese drei kennen.

Die offizielle PEFT-Dokumentation und die ursprünglichen LoRA-/QLoRA-Publikationen erläutern die Mechanismen. Ihre experimentellen Ergebnisse sind keine Garantien für jedes Modell.

Wählen Sie vollständiges Fine-Tuning, LoRA oder QLoRA anhand verfügbarer Ressourcen und der Bewertungsergebnisse. Scheitert eine Methode, beweist das nicht, dass die anderen ebenfalls scheitern. Mit einem lokalen LLM kann auch ein kleiner Versuch auf dem eigenen PC möglich sein.

5. Daten, Kosten und Werkzeuge

Datenbedarf: Das zulässige Minimum ist nicht der Bedarf für brauchbare Qualität

OpenAIs SFT-Leitfaden berichtet von Verbesserungen mit 50–100 Beispielen und empfiehlt, Aufgabe oder Prompt zu überarbeiten, falls 50 Beispiele keine Verbesserung bringen. Das gilt als Orientierung für OpenAIs SFT und belegt nicht, dass jede Methode 500 Beispiele benötigt. Das Einreichen eines gültigen Datensatzes und brauchbare Qualität sind getrennte Fragen.

Bevor Sie die Menge erhöhen, prüfen Sie, ob die Beispiele realen Eingaben ähneln, Antworten korrekt und Klassen angemessen ausgewogen sind und Duplikate oder Widersprüche vorkommen. Trennen Sie Trainings- und Bewertungsdaten, damit umformulierte Varianten derselben Frage nicht in beiden vorkommen und die Ergebnisse beschönigen. Eine richtige Antwort auf eine Eingabe zu trainieren, der die nötigen Informationen fehlen, kann unbelegte Vermutungen fördern. Siehe OpenAIs Hinweise zur Datenqualität und Trennung von Bewertungsdaten.

Kosten: laufende Nutzung neben dem Training berücksichtigen

Bei Token-Abrechnung rechnen Sie zunächst „abrechenbare Trainings-Tokens ÷ eine Million × Preis pro Einheit“, bei zeitbasierter Abrechnung „abrechenbare Zeit × Stundensatz“. Prüfen Sie, welche Tokens oder Zeiten zählen und wie der Anbieter Fehler und Wiederholungen behandelt. Bei selbst verwaltetem Training schätzen Sie auch Datendurchläufe, Eingabelänge, GPU-Anzahl und Laufzeit.

Die beiden Beispiele verwenden unterschiedliche Methoden und Einheiten. Sie stammen aus den Standardtarifen in OpenAIs offizieller Preistabelle, geprüft am 10. Oktober 2026. Ihre Aufnahme bedeutet nicht, dass neue Nutzer Zugang erhalten; beachten Sie die folgenden Voraussetzungen.

o4-mini und seine angepasste Version aus diesem Preisbeispiel sollen am 23. Oktober 2026 abgeschaltet werden. Prüfen Sie vor der Modellwahl OpenAIs offizielle Abkündigung.

Dies sind Preise für API-Fine-Tuning und Inferenz, keine ChatGPT-Abopreise. Für Batch-Verarbeitung und Datenfreigabe können gesonderte Tarife gelten. „$25–$100 pro Million Tokens“ ist deshalb kein einheitlicher Preis aller Methoden. Berücksichtigen Sie Freigabebedingungen und Inferenzpreise in der Kalkulation.

Wenn Sie Kosten sparen möchten, messen Sie, ob die Kosten pro Anfrage nach dem Training tatsächlich sinken. Implementierungskosten geteilt durch die Ersparnis pro Anfrage ergeben eine ungefähre Amortisationsmenge – aber nur bei vergleichbarer Antwortqualität und positiver Ersparnis. Bei geringem Volumen können niedrigere Inferenzkosten die Vorbereitungskosten möglicherweise nicht ausgleichen.

Verfügbarkeit: OpenAIs Ausstieg und selbst verwaltetes Training

Quelle: OpenAIs Änderungen beim Self-Service-Fine-Tuning, geprüft am 10. Oktober 2026. Eine weiterhin erreichbare Preistabelle oder Anleitung belegt nicht, dass Ihre Organisation beginnen kann.

Für selbst verwaltetes Training mit einem Modell, dessen Gewichte zugänglich sind, ist Hugging Face TRLs SFTTrainer eine Option. Prüfen Sie Modell- und Datenlizenzen, GPU-Speicher, Eingabelänge, unterstützte Trainingsmethoden und Speicherorte. Prüfen Sie bei verwalteten Diensten anderer Anbieter ebenfalls Modelle, Regionen, Vertragsbedingungen und Abrechnungseinheiten anhand der aktuellen Spezifikationen.

6. Mit einem kleinen Versuch über den Einsatz entscheiden

Die folgende Planung veranschaulicht die Einteilung von Anfragen in „Versand“, „Rückgabe“ oder „Sonstiges“. Sie ist kein Bericht über Trainingsläufe, gemessene Leistung oder Rechnungen für diesen Artikel.

1. Abnahmekriterien festlegen: Erfassen Sie Klassifikationsgenauigkeit, den Umgang mit unsicheren Fällen, Antwortzeit und Kosten pro Anfrage. Verfolgen Sie schwere Fehlklassifikationen getrennt vom Durchschnitt.
2. Ausgangsleistung messen: Ordnen Sie Anweisungen und Beispiele und bewerten Sie mit Daten, die nicht zum Training verwendet werden. Unterscheiden Sie fehlende Anweisungen, fehlende Informationen und die Einschätzung des Modells.
3. Eine Methode für die Fehlerursache wählen: Fehlen Referenzinformationen, prüfen Sie das Retrieval-System. Geht es um Entscheidungskriterien oder Antwortmuster, nehmen Sie Fine-Tuning in den Vergleich auf. RAG muss nicht immer zuerst ausprobiert werden.
4. Ausführungsbedingungen prüfen: Prüfen Sie Verfügbarkeit, Modell, Budget, Datennutzungsrechte, externe Übertragung und Speicherung, bevor Sie einen kleinen Trainingslauf planen.
5. Mit derselben Bewertung vergleichen: Geben Sie Basis- und angepasstem Modell dieselben Fragen. Berücksichtigen Sie unbekannte Eingaben, andere Sprachen, lange Texte und Anfragen, die abgelehnt werden sollten.
6. Über Einsatz, Anpassung oder Aufschub entscheiden: Vergleichen Sie Qualitätsgewinn, Kosten, Latenz und Betriebsaufwand. Überarbeiten Sie bei ausbleibender Verbesserung Daten oder Einstellungen, statt die Produktionsversion sofort zu ersetzen. Bewahren Sie eine Version für den Rückweg auf.

Beobachten Sie nach dem Training weiterhin Bereiche mit mehr Fehlern, neue Informationen und Abkündigungen des Basismodells. Die Trainingsleistung allein zeigt nicht, ob das Modell unbekannte Eingaben verarbeitet. OpenAIs Hinweise zur Bewertung empfehlen ebenfalls die Trennung von Trainings- und Testdaten.

Zusammenfassung

Drei wichtige Punkte zu Fine-Tuning:

• Was es ist: zusätzliches Training eines vortrainierten Modells, das Antwortmuster durch Änderungen an Gewichten oder zusätzlichen Adaptern anpasst.
• Wie Sie wählen: Ermitteln Sie, ob das Problem Referenzinformationen, Anweisungen oder Antwortmuster betrifft, und vergleichen Sie Methoden unter denselben Bedingungen.
• Wie Sie beginnen: Prüfen Sie Verfügbarkeit, Budget und Datennutzungsrechte. Datenbedarf und Kosten unterscheiden sich nach Methode, Modell und Anwendungsfall.

Fine-Tuning ist eine Verbesserungsoption, deren Wirksamkeit durch Bewertung belegt werden sollte. Ein abgeschlossenes Training und bessere Qualität im Arbeitsalltag erfordern getrennte Prüfungen. Die Leitfäden zu RAG und Context Engineering erläutern das Gesamtbild der KI-Anpassung. Eine weitere verwandte Technik zur Verkleinerung von Modellen ist die Modelldestillation.

Häufige Fragen