KI-Agenten & Automatisierung: RAG, Workflows, Guides

Nur zweieinhalb Monate nach GPT-5.5 kommt GPT-5.6 — und die größte Änderung ist keine bloße Leistungssteigerung, sondern der Umbau von einem Flaggschiff zu drei Modellen: Luna, Terra und Sol. Am stärksten wirkt das Mittelklasse-Modell Terra, das GPT-5.5-vergleichbare Qualität zu einem weitaus niedrigeren Preis bietet: zum Start zum halben Preis, seit der Preissenkung vom 30. Juli 2026 zu 40 % des GPT-5.5-Stückpreises ($2/$12), während Sol bei unverändert $5/$30 mehr Leistung liefert (SWE-Bench Pro 58.6→64.6% laut OpenAI). Wir zeigen, was sich geändert hat, wie stark die Kosten sinken (überschlägig $1,100→$440 pro Monat bei 100M Input und 20M Output) und auf welches Modell man umsteigen sollte.

Ein ausführlicher Vergleich von OpenAIs damaligem Spitzenmodell GPT-5.6 Sol (9. Juli) und Claude Fable 5 (9. Juni), das Anthropic zum Start als „das stärkste je allgemein verfügbare Modell“ positionierte. Während das Opus-4.8-Duell ein direktes Aufeinandertreffen in derselben Preisklasse war, geht es hier um die Abwägung zwischen Kosten und Leistung: „der halb so teure Allrounder Sol ($5/$30)“ gegen „das doppelt so teure, aber höchste Fable 5 ($10/$50)“. Beim produktionsreifen SWE-Bench Pro lässt Fable 5 in OpenAIs Tabelle mit 80.0% Sols 64.6% um mehr als 15 Punkte hinter sich – der Abstand ist größer als im Opus-4.8-Duell. Zudem bleibt Fable 5 über Millionen Tokens hinweg fokussiert und kann laut Anthropic länger autonom arbeiten als jedes frühere Claude-Modell; die „Durchhaltekraft“, mit der Stripe eine Ruby-Migration von 50 Millionen Zeilen an einem Tag abschloss, ist seine Paradedisziplin. Sol dagegen führt bei Terminal-Bedienung (TerminalBench 2.1: 88.8% vs Fable 83.1%), Agents' Last Exam (53.6 vs 40.5) und Coding Agent Index (80 vs 77.2) – und ist mit halbem Preis plus +54% Token-Effizienz stark bei der Preis-Leistung. Der Artikel ordnet Spezifikationen, Benchmark-Details, das „Problem der nicht veröffentlichten Benchmarks“ (in OpenAIs Tabelle fehlende Kennzahlen und OpenAIs Zweifel an SWE-bench Pro), Langzeit-Autonomie, reale Kosten (pro erledigter Aufgabe betrachtet), eine Stärken-Schwächen-Karte und die Wahl nach Anwendungsfall auf Basis offizieller und unabhängiger Benchmarks ein.

Ein ausführlicher Vergleich der beiden KI-Coding-Giganten vom Juli 2026, Claude Opus 4.8 (28. Mai) und GPT-5.6s Spitzenmodell Sol (9. Juli). Ihre Stärken sind nahezu entgegengesetzt: Sol führt bei Terminalbedienung und agentischer Gesamtstärke (TerminalBench 2.1 88.8% vs Opus 78.9%, Agents' Last Exam 53.6, Coding Agent Index 80), während Opus 4.8 bei produktionsreifem Coding führt (SWE-bench Pro 69.2% vs Sol 64.6%) und Ehrlichkeit in den Vordergrund stellt (lässt Fehler im eigenen Code etwa viermal seltener durchgehen; verschweigt wichtige Fehlschläge nur in 3.7% der Fälle). GPQA Diamond und FrontierMath, die als unveröffentlicht galten, stehen in OpenAIs Evaluationstabelle mit Sol vorn (wie auch bei GraphWalks 1M), und bei SWE-bench Pro sieht selbst OpenAIs eigene Tabelle Opus vorn, sodass Opus im Kerngebiet des Codings die Oberhand hat. Wir behandeln die Spezifikationstabelle, Benchmark-Details, das Problem der unveröffentlichten Benchmarks, reale Kosten ($25 vs $30 Preis pro Token vs +54% Token-Effizienz), eine Stärken-/Schwächen-Karte, Empfehlungen nach Anwendungsfall und eine Dual-Vendor-Strategie.

OpenAI hat GPT-5.6 am 9. Juli 2026 allgemein verfügbar gemacht und die alte Struktur aus „Standard + Pro“ durch ein Drei-Modell-System ersetzt: Luna (schnell, günstig, $0.20/$1.20), Terra (ausgewogen, $2/$12, GPT-5.5-Niveau zu 40 % des Sol-Stückpreises) und Sol (Flaggschiff, $5/$30) — Preise nach der Anpassung vom 30. Juli 2026. Sol steht beim Agents' Last Exam (53.6) und beim Coding Agent Index (80) an der Spitze, und seine 88.8% im TerminalBench 2.1 übertreffen Claude Fable 5 (83.1%) — beim produktionsnahen SWE-Bench Pro führt Claude Fable 5 jedoch klar mit 80.0% gegenüber Sols 64.6%. Dieser Artikel behandelt die Unterschiede der drei Modelle, Preise, Benchmarks, neue Funktionen (Programmatic Tool Calling, ChatGPT Work, das Vollduplex-Sprachmodell GPT-Live), die Verfügbarkeit nach ChatGPT-Tarif, den Vergleich mit Claude (Fable 5 / Opus 4.8) und die Wahl nach Anwendungsfall — alles auf Basis der offiziellen Ankündigung von OpenAI und unabhängiger Benchmarks.

Sie haben auf OpenAI aufgebaut, wollten dann Claude ausprobieren und Gemini vergleichen — und verloren Stunden an die je Anbieter unterschiedlichen SDKs, Formate und Fehlerbehandlung. Ein LLM-Gateway (AI-Gateway / LLM-Proxy) ist ein Relais, das Sie zwischen Ihre App und die Anbieter schieben: es stellt eine einzige OpenAI-kompatible API bereit, um jedes Modell zu erreichen, und übernimmt die querschnittlichen Aufgaben — Fallback, Kostenverfolgung, virtuelle Keys, Caching, Rate-Limiting und Observability. Dieser Leitfaden behandelt, warum Sie eines brauchen, was ein Gateway wirklich ist, die drei Typen (Self-hosted-Proxy = LiteLLM / hosted = OpenRouter / SDK = Vercel AI SDK), wie Sie zwischen LiteLLM, OpenRouter und dem Vercel AI SDK wählen, minimalen Setup-Code, der nur den Endpunkt tauscht, und die Grenzen — ein Latenz-Hop, das Gateway als neuer Ausfallpunkt, Gebühren (OpenRouter berechnet 5,5% auf Käufe), Feature-Verlust und Privatsphäre.

Nachdem du einen KI-Agenten gebaut hast, stößt du immer an dieselbe Wand: „Okay, aber läuft das wirklich?“ Der Mechanismus, mit dem du entscheidest, ob eine Prompt- oder Modelländerung die Sache mit Daten statt Bauchgefühl besser oder schlechter gemacht hat, sind Evals. LLMs liefern für dieselbe Eingabe jedes Mal eine andere Ausgabe, weshalb Exact-Match-Unit-Tests nicht passen. Dieser Artikel legt den Schwerpunkt auf die Schritte, mit denen du Evals tatsächlich baust und betreibst, und behandelt fünf Wege, Qualität zu messen (① Ground-Truth-Abgleich ② regelbasierte Prüfungen ③ LLM-as-judge ④ Regressionstest ⑤ Produktionsmonitoring), die agent-spezifische Bewertung (Aufgaben-Erfolgsrate, korrekte Tool-Aufrufe, Trajektorie, Kosten), wie du klein mit 20 Fehlerbeispielen anfängst, häufige Fallstricke und wichtige Tools (Anthropic Console/Evals, OpenAI Evals, LangSmith, Langfuse, Ragas) — geschrieben für Praktiker.

Die ewige Automatisierungsfrage: „KI-Agenten oder RPA?“ Die Antwort ist kein Entweder-oder – wählen Sie nach Rolle, und das erfolgreiche Muster 2026 ist ein Hybrid aus beidem. RPA sind deterministische „Hände“, die einen festen Ablauf schnell und präzise ausführen (aber abbrechen, wenn sich Bildschirm/Spezifikation ändert); ein KI-Agent ist ein probabilistisches „Gehirn“, das die Lage liest und entscheidet (stark bei Mehrdeutigkeit und Ausnahmen, aber nicht jedes Mal identisch). Dieser Artikel behandelt den Unterschied im Funktionsprinzip, eine Vergleichstabelle (den Kompromiss zwischen Reproduzierbarkeit und Robustheit), die Auswahl (die Achse lautet „lässt es sich vollständig als Regeln ausschreiben?“ – ja → RPA, nicht ausschreibbares Urteilen → KI-Agent), den Trend 2026 (RPA-Anbieter UiPath, Automation Anywhere, Blue Prism werden agentisch – Konvergenz; die Frage ist nicht mehr „welches von beiden“, sondern „wo ist das Schlussfolgern angesiedelt“ = Orchestration-first) und die praktische Antwort: einen Hybrid, bei dem das Gehirn (KI-Agent) Urteilen/Orchestrierung übernimmt und die Hände (RPA) die deterministische Ausführung leisten – setzen Sie keinen Agenten dort ein, wo Determinismus verlangt wird, und koppeln Sie delegiertes Urteilen mit Leitplanken und menschlicher Freigabe. Auf Basis offizieller Anbieterinformationen, mit FAQ.

Kann man den AWS-Betrieb an KI abgeben? 2026 lässt sich vieles delegieren. AWS selbst liefert Amazon Q Developer und das Agent Toolkit for AWS (Mai 2026 – 40+ Agent-Skills + ein verwalteter AWS MCP Server + Plugins), sodass KI von der IaC-Generierung bis zu Ressourcenoperationen reichen kann. Dieser Leitfaden fasst „Delegieren“ in drei Stufen (① Code-/IaC-Generierung, ② lesegetriebener Betrieb/Analyse, ③ ein autonomer Agent, der AWS tatsächlich betreibt), behandelt die wichtigsten Werkzeuge (Amazon Q Developer, Agent Toolkit, AWS MCP Server, Terraform MCP, Bedrock AgentCore) – einschließlich des Bring-your-own-Wegs, Claude Code oder Codex die AWS CLI zu geben, um „aws“ aus der Shell auszuführen – die Vorteile (schnelle IaC, automatisierte Triage, Ideen zur Kostenoptimierung, demokratisiertes Wissen) und dann den eigentlichen Punkt, die Nachteile (IAM Permission Sprawl, Überberechtigung als Verstärker des Blast-Radius für Fehler/Prompt Injection, Berechtigungen, die die Aufgabe überdauern, Kosten-Amoklauf – mit realen Vorfällen gelöschter Prod-DBs 2025-26), auf Basis offizieller AWS-Quellen und Berichten von Security-Anbietern. Der entscheidende Dreh: Die Frage ist nicht „geht das?“, sondern „wie delegiert man ohne Amoklauf oder explodierende Rechnung“ – und dass AWS selbst IAM-Guardrails, CloudTrail-Audit und Sandboxing in das Agent Toolkit einbaut, zeigt die Gestalt der Antwort. Enthält die fünf Prinzipien (Least-Privilege-IAM, menschliche Freigabe für destruktive Operationen, Observability, kurzlebige JIT-Zugangsdaten, Sandboxing) und eine FAQ.

Die erste Hürde beim Einbau eines KI-Agenten in echte Arbeit ist die Frage, „auf welchem Framework man ihn baut“. Aus der Sicht von Entwicklern und Technologie-Entscheidern vergleicht dieser Artikel sechs wichtige Frameworks — LangGraph, CrewAI, AutoGen (im Microsoft Agent Framework aufgegangen, GA April 2026), OpenAI Agents SDK, Google ADK und Claude Agent SDK — nach Orchestrierungsansatz (gerichteter Graph / rollenbasierte Crew / konversationsbasierter GroupChat / Handoffs / hierarchischer Baum / autonome Werkzeugschleife), Sprache, Lernkurve, Steuerbarkeit, Produktionsreife, Token-Kosten und passendem Anwendungsfall. Der zentrale Vorbehalt: Das Framework, das sich „am schnellsten prototypisieren lässt“ (CrewAI), kann im Produktivbetrieb das teuerste sein — rund das 3-Fache der Tokens (41k gegenüber 18,5k bei LangGraph in einem Benchmark) und nicht-deterministisch, was es für Finanz- und Gesundheitswesen ungeeignet macht. Außerdem erklärt der Artikel, wie 2026 die Interoperabilität über MCP (Werkzeuge) und A2A (Agent-to-Agent) kam, sodass Agenten aus verschiedenen Frameworks nun zusammenarbeiten können und der Lock-in verblasst ist. Mit Leitfaden zur Auswahl nach Anwendungsfall und FAQ.

In „So baust du ein Multi-Agenten-System“ hieß es, jede Übergabe zu instrumentieren, bevor man Agenten hinzufügt; die Technologie, die diese Instrumentierung in der Produktion trägt, ist AI observability. Sie macht sichtbar, was LLMs und Agenten in der Produktion tatsächlich tun (welches Modell mit welchem Prompt, welche Tools und Suchen, was zurückkam und wie lange und wie viel es kostete), damit du bis zur Ursache zurückverfolgen kannst. Der entscheidende Unterschied zum gewöhnlichen App-Monitoring: KI kann 200 OK in 50ms zurückgeben und trotzdem selbstbewusst halluzinieren, sodass die meisten KI-Ausfälle Qualitäts-Ausfälle sind (Halluzination, schwaches Retrieval, unsichere Antworten, unvollständige Aufgaben, schlechte Tool-Nutzung, Regressionen nach Prompt-Änderung) und keine Infrastruktur-Ausfälle. Observability ruht auf drei Säulen: traces (eine Anfrage als Baum aus spans, der LLM-Aufrufe, Tools, Retrieval und Argumentationsketten zeigt; der Star der KI-Beobachtung), metrics (Latenz, Kosten, Tokens, Fehlerrate, Durchsatz) und logs (Detail pro Ereignis). Der Industriestandard OpenTelemetry GenAI-Konventionen erfasst Prompts, Antworten, Token-Verbrauch und Tool-/Agenten-Aufrufe in einem herstellerneutralen Schema, einspeisbar in Datadog/Grafana. Die am häufigsten verwechselte Unterscheidung ist Observability vs. Evaluation (evals): Observability zeigt, was passiert ist (leicht zu messen, kann aber nicht sagen, ob die Antwort korrekt ist), während evals messen, ob die Antwort gut ist (Genauigkeit, groundedness, Sicherheit) und explizite Bewertung erfordern. Da Kosten und Latenz leicht zu messen sind, die Antwortqualität aber nicht, kombinieren Tools von 2026 die trace-Anzeige mit Output-Bewertung und Verschlechterungs-Alarmen. Kennzahlen teilen sich in betriebliche (Kosten, Latenz, Tokens, Fehlerrate) und qualitative (Halluzination, groundedness/faithfulness, am wichtigsten für RAG, Sicherheit, Aufgabenerfüllung), mit Halluzinationserkennung via LLM-as-a-judge, semantischer Ähnlichkeit und groundedness-Scores. Wichtige Tools: LangSmith (LangChain), Langfuse (Open-Source-Self-Host), Arize Phoenix (RAG-Debugging), MLflow (Lebenszyklus), AgentOps (Agenten) und OpenTelemetry (der Standard). Beginne mit dem Erfassen von traces (OpenTelemetry-konform), visualisiere betriebliche Kennzahlen und binde dann evals an, bevor du ausrollst. Für Multi-Agenten-Systeme ist Beobachtung unverzichtbar, da sich Fehler in mehrstufigen Ketten verbergen, die nur in einem vollständigen Session-Trace sichtbar sind. Beobachten plus bewerten macht KI produktionsreif. Abbildungen und Merkmale sind aus öffentlichen Materialien zitiert, als Richtwert.

Die praktische Fortsetzung zu „Was ist ein Multi-Agent-System?“. Die Kernregel: zuerst mit einem einzelnen Agenten bauen und erst nach dem Erreichen einer Grenze minimal erweitern (eine Studie von Google Research fand alle Multi-Agent-Aufbauten bei einer streng sequenziellen Aufgabe um 39–70 % schlechter, und Anthropic berichtet, dass Multi-Agent-Systeme etwa 15-mal so viele Tokens verbrauchen wie ein Chat). Die Grundform ist das supervisor-Muster: Subagenten im Claude Agent SDK, agents as tools im OpenAI Agents SDK. Neben den 5 Schritten (zerlegen, worker definieren, supervisor entwerfen, Übergaben, messen) zeigt der Artikel minimalen Code für beide SDKs nach deren offizieller Dokumentation (ein supervisor mit Rechercheur und Prüfer), wie man die Tools jeder Rolle einschränkt, Obergrenzen auf drei Ebenen (maxTurns, max_turns, Ausgaben), wann ein Handoff besser passt, gute und schlechte Rollenschnitte sowie Fehlschläge, die Anthropic tatsächlich erlebte (50 Subagenten für eine einfache Anfrage, doppelte Recherche), samt Lösungen.

Jetzt, da KI-Agenten alltäglich sind, lautet die nächste Herausforderung, wie man Agenten miteinander kooperieren lässt. Wenn MCP einen Agenten mit seinen Werkzeugen verbindet, verbindet A2A (Agent2Agent) einen Agenten mit einem anderen Agenten — ein offener Standard, mit dem sich KIs auf unterschiedlichen Anbietern und Frameworks finden, kommunizieren und über eine gemeinsame Konvention kooperieren. Google veröffentlichte ihn im April 2025, übergab ihn im Juni an die Linux Foundation, und 2026 erreichte er v1.0. Dieser Einsteiger-Leitfaden erklärt, was A2A ist (mit der Analogie der Umgangsformen einer Geschäftspartnerschaft), warum es nötig ist (spezialisierte Agenten reichen Arbeit weiter — ein Planungs-Agent zu einem Hotelbuchungs-Agent zu einem Bezahl-Agent), wie es sich von MCP unterscheidet (MCP ist vertikal, Agent ↔ Werkzeuge; A2A ist horizontal, Agent ↔ Agent; beide übereinanderzulegen ist das zweischichtige Standard-Setup), wie es funktioniert (eine Agent Card — ein JSON als „Visitenkarte“ unter /.well-known/agent-card.json — dient zum Entdecken der Fähigkeiten, dann trägt ein Task die Anfrage durch Zustände wie working, input-required und completed, und ein Artifact liefert das Ergebnis, alles über HTTP, Server-Sent Events und JSON-RPC 2.0, wobei die Agenten ihre Interna verborgen halten) sowie aktueller Stand und Umsetzung (Stand April 2026: 150+ unterstützende Organisationen, 22.000+ GitHub-Sterne, SDKs in fünf Sprachen — Python, JavaScript, Java, Go, .NET — mit Microsoft, Salesforce, SAP und ServiceNow beteiligt). Die Eselsbrücke: mit Werkzeugen verbinden = MCP, mit Partnern verbinden = A2A.