KI-Agenten & Automatisierung: RAG, Workflows, Guides

ChatGPT Work ist der „KI-Agent für die Arbeit“, den OpenAI am 9. Juli 2026 zusammen mit GPT-5.6 vorgestellt hat. Anders als ein normaler Chat, der bloß antwortet, sammelt er Kontext aus deinen verbundenen Apps und Dateien, um fertige Ergebnisse zu erstellen — Dokumente, Tabellen, Folien und sogar Web-Apps. Sein Gehirn ist das neue Flaggschiff GPT-5.6 Sol (auf Codex aufgebaut), und es kann ein komplexes Projekt in Schritte zerlegen und stundenlang weiterarbeiten (Thurrott). Innerhalb der vereinten Desktop-App leben drei Modi zusammen — Work (Ergebnisse), Codex (technisch, zeigt Details) und normaler Chat (Gespräch) — wobei Work als die „Business-Version“ positioniert ist, die Codex' technische Details verbirgt (9to5Mac). Das Modell hängt von deinem Tarif ab: Free/Go bekommen standardmäßig Terra, während Plus/Pro/Business/Enterprise aus Sol/Terra/Luna wählen (laut Berichten). Seine Stärke ist das Einbeziehen „deines Kontexts“ über Connectors wie Google Drive, SharePoint und Slack sowie MCP — und für Unternehmen werden Daten standardmäßig nicht fürs Training verwendet. Gestützt auf Axios, TechCrunch, 9to5Mac, Thurrott und OpenAI zeigt dieser Artikel, was ChatGPT Work ist, wie es sich von normalem ChatGPT und Codex unterscheidet, welche Tarife es nutzen können und mit welchen Apps es sich verbindet — mit Sicherheitskennzeichnungen für das, was noch nicht offiziell ist.

GPT-5.6 „Sol“ und Gemini 3.1 Pro im direkten Vergleich – zwei Giganten, deren Stärken sich kaum überschneiden. Sol dominiert beim Terminal- und agentischen Coding (Terminal-Bench 88.8% vs. 68.5%, SWE-bench Pro 64.6% vs. 54.2%) sowie bei Mathematik, während Gemini mit nativer Multimodalität (Sprache/Video), etwa halbem Preis und Vorsprung bei MMLU, ARC-AGI-2 und WebDev Arena dagegenhält. Wichtig: Googles eigentlicher Herausforderer 3.5 Pro ist noch nicht verfügbar (GA Mitte Juli). Wir ordnen Leistung, Preis, Multimodalität und die Wahl nach Anwendungsfall ein.

Nur zweieinhalb Monate nach GPT-5.5 kommt GPT-5.6 — und die größte Änderung ist keine bloße Leistungssteigerung, sondern der Umbau von einem Flaggschiff zu drei Modellen: Luna, Terra und Sol. Am stärksten wirkt das Mittelklasse-Modell Terra, das GPT-5.5-vergleichbare Qualität zu einem weitaus niedrigeren Preis bietet: zum Start zum halben Preis, seit der Preissenkung vom 30. Juli 2026 zu 40 % des GPT-5.5-Stückpreises ($2/$12), während Sol bei unverändert $5/$30 mehr Leistung liefert (SWE-Bench Pro 58.6→64.6%, geschätzt). Wir zeigen, was sich geändert hat, wie stark die Kosten sinken (überschlägig $1,100→$440 pro Monat bei 100M Input und 20M Output) und auf welches Modell man umsteigen sollte.

Ein ausführlicher Vergleich von OpenAIs Spitzenmodell GPT-5.6 Sol (9. Juli) und Claude Fable 5 (9. Juni), das Anthropic als „das stärkste je allgemein verfügbare Modell“ positioniert. Während das Opus-4.8-Duell ein direktes Aufeinandertreffen in derselben Preisklasse war, geht es hier um die Abwägung zwischen Kosten und Leistung: „der halb so teure Allrounder Sol ($5/$30)“ gegen „das doppelt so teure, aber höchste Fable 5 ($10/$50)“. Beim produktionsreifen SWE-Bench Pro lässt Fable 5 mit 80.3% Sols 64.6% (geschätzt) um mehr als 15 Punkte hinter sich – der Abstand ist größer als im Opus-4.8-Duell. Zudem arbeitet Fable 5 unter Konzentration auf Millionen Tokens bis zu 12 Stunden selbstständig; die „Durchhaltekraft“, mit der Stripe eine Ruby-Migration von 50 Millionen Zeilen an einem Tag abschloss, ist seine Paradedisziplin. Sol dagegen führt bei Terminal-Bedienung (TerminalBench 2.1: 88.8% vs Fable 86.0%), Agents' Last Exam (53.6 vs 40.5) und Coding Agent Index (80 vs 77.2) – und ist mit halbem Preis plus +54% Token-Effizienz stark bei der Preis-Leistung. Der Artikel ordnet Spezifikationen, Benchmark-Details, das „Problem der nicht veröffentlichten Benchmarks“ (OpenAI legt Sols SWE-bench Pro nicht offen), Langzeit-Autonomie, reale Kosten (pro erledigter Aufgabe betrachtet), eine Stärken-Schwächen-Karte und die Wahl nach Anwendungsfall auf Basis offizieller und unabhängiger Benchmarks ein.

Ein ausführlicher Vergleich der beiden KI-Coding-Giganten von 2026, Claude Opus 4.8 (28. Mai) und GPT-5.6s Spitzenmodell Sol (9. Juli). Ihre Stärken sind nahezu entgegengesetzt: Sol führt bei Terminalbedienung und agentischer Gesamtstärke (TerminalBench 2.1 88.8% vs Opus 78.9%, Agents' Last Exam 53.6, Coding Agent Index 80), während Opus 4.8 bei produktionsreifem Coding, Mathematik und Langkontext führt (SWE-bench Pro 69.2% vs Sol 64.6%, USAMO 2026 96.7%, GraphWalks 1M 68.1%) und Ehrlichkeit in den Vordergrund stellt (Selbstüberschätzung auf ein Zehntel reduziert, 0% unkritische Meldung fehlerhafter Ergebnisse). OpenAI lässt zudem viele von Sols Benchmarks unveröffentlicht (SWE-bench Pro, GPQA, AIME, MMLU), sodass im Kerngebiet des Codings das offengelegte Opus vorn liegt. Wir behandeln die Spezifikationstabelle, Benchmark-Details, das Problem der unveröffentlichten Benchmarks, reale Kosten ($25 vs $30 Preis pro Token vs +54% Token-Effizienz), eine Stärken-/Schwächen-Karte, Empfehlungen nach Anwendungsfall und eine Dual-Vendor-Strategie.

OpenAI hat GPT-5.6 am 9. Juli 2026 allgemein verfügbar gemacht und die alte Struktur aus „Standard + Pro“ durch ein Drei-Modell-System ersetzt: Luna (schnell, günstig, $0.20/$1.20), Terra (ausgewogen, $2/$12, GPT-5.5-Niveau zu 40 % des Sol-Stückpreises) und Sol (Flaggschiff, $5/$30) — Preise nach der Anpassung vom 30. Juli 2026. Sol steht beim Agents' Last Exam (53.6) und beim Coding Agent Index (80) an der Spitze, und seine 88.8% im TerminalBench 2.1 übertreffen Claude Fable 5 (86.0%) knapp — beim produktionsnahen SWE-Bench Pro führt Claude Fable 5 jedoch klar mit 80.0% gegenüber Sols 64.6%. Dieser Artikel behandelt die Unterschiede der drei Modelle, Preise, Benchmarks, neue Funktionen (Programmatic Tool Calling, ChatGPT Work, das Vollduplex-Sprachmodell GPT-Live), die Verfügbarkeit nach ChatGPT-Tarif, den Vergleich mit Claude (Fable 5 / Opus 4.8) und die Wahl nach Anwendungsfall — alles auf Basis der offiziellen Ankündigung von OpenAI und unabhängiger Benchmarks.

Sie haben auf OpenAI aufgebaut, wollten dann Claude ausprobieren und Gemini vergleichen — und verloren Stunden an die je Anbieter unterschiedlichen SDKs, Formate und Fehlerbehandlung. Ein LLM-Gateway (AI-Gateway / LLM-Proxy) ist ein Relais, das Sie zwischen Ihre App und die Anbieter schieben: es stellt eine einzige OpenAI-kompatible API bereit, um jedes Modell zu erreichen, und übernimmt die querschnittlichen Aufgaben — Fallback, Kostenverfolgung, virtuelle Keys, Caching, Rate-Limiting und Observability. Dieser Leitfaden behandelt, warum Sie eines brauchen, was ein Gateway wirklich ist, die drei Typen (Self-hosted-Proxy = LiteLLM / hosted = OpenRouter / SDK = Vercel AI SDK), wie Sie zwischen LiteLLM, OpenRouter und dem Vercel AI SDK wählen, minimalen Setup-Code, der nur den Endpunkt tauscht, und die Grenzen — ein Latenz-Hop, das Gateway als neuer Ausfallpunkt, Gebühren (OpenRouter berechnet 5,5% auf Käufe), Feature-Verlust und Privatsphäre.

Nachdem du einen KI-Agenten gebaut hast, stößt du immer an dieselbe Wand: „Okay, aber läuft das wirklich?“ Der Mechanismus, mit dem du entscheidest, ob eine Prompt- oder Modelländerung die Sache mit Daten statt Bauchgefühl besser oder schlechter gemacht hat, sind Evals. LLMs liefern für dieselbe Eingabe jedes Mal eine andere Ausgabe, weshalb Exact-Match-Unit-Tests nicht passen. Dieser Artikel behandelt, was Evals sind, fünf Wege, Qualität zu messen (① Ground-Truth-Abgleich ② regelbasierte Prüfungen ③ LLM-as-judge ④ Regressionstest ⑤ Produktionsmonitoring), die agent-spezifische Bewertung (Aufgaben-Erfolgsrate, korrekte Tool-Aufrufe, Trajektorie, Kosten), wie du klein mit 20 Fehlerbeispielen anfängst, häufige Fallstricke und wichtige Tools (Anthropic Console/Evals, OpenAI Evals, LangSmith, Langfuse, Ragas) — geschrieben für Praktiker.

Die ewige Automatisierungsfrage: „KI-Agenten oder RPA?“ Die Antwort ist kein Entweder-oder – wählen Sie nach Rolle, und das erfolgreiche Muster 2026 ist ein Hybrid aus beidem. RPA sind deterministische „Hände“, die einen festen Ablauf schnell und präzise ausführen (aber abbrechen, wenn sich Bildschirm/Spezifikation ändert); ein KI-Agent ist ein probabilistisches „Gehirn“, das die Lage liest und entscheidet (stark bei Mehrdeutigkeit und Ausnahmen, aber nicht jedes Mal identisch). Dieser Artikel behandelt den Unterschied im Funktionsprinzip, eine Vergleichstabelle (den Kompromiss zwischen Reproduzierbarkeit und Robustheit), die Auswahl (die Achse lautet „lässt es sich vollständig als Regeln ausschreiben?“ – ja → RPA, nicht ausschreibbares Urteilen → KI-Agent), den Trend 2026 (RPA-Anbieter UiPath, Automation Anywhere, Blue Prism werden agentisch – Konvergenz; die Frage ist nicht mehr „welches von beiden“, sondern „wo ist das Schlussfolgern angesiedelt“ = Orchestration-first) und die praktische Antwort: einen Hybrid, bei dem das Gehirn (KI-Agent) Urteilen/Orchestrierung übernimmt und die Hände (RPA) die deterministische Ausführung leisten – setzen Sie keinen Agenten dort ein, wo Determinismus verlangt wird, und koppeln Sie delegiertes Urteilen mit Leitplanken und menschlicher Freigabe. Auf Basis offizieller Anbieterinformationen, mit FAQ.

Kann man den AWS-Betrieb an KI abgeben? 2026 lässt sich vieles delegieren. AWS selbst liefert Amazon Q Developer und das Agent Toolkit for AWS (Mai 2026 – 40+ Agent-Skills + ein verwalteter AWS MCP Server + Plugins), sodass KI von der IaC-Generierung bis zu Ressourcenoperationen reichen kann. Dieser Leitfaden fasst „Delegieren“ in drei Stufen (① Code-/IaC-Generierung, ② lesegetriebener Betrieb/Analyse, ③ ein autonomer Agent, der AWS tatsächlich betreibt), behandelt die wichtigsten Werkzeuge (Amazon Q Developer, Agent Toolkit, AWS MCP Server, Terraform MCP, Bedrock AgentCore) – einschließlich des Bring-your-own-Wegs, Claude Code oder Codex die AWS CLI zu geben, um „aws“ aus der Shell auszuführen – die Vorteile (schnelle IaC, automatisierte Triage, Ideen zur Kostenoptimierung, demokratisiertes Wissen) und dann den eigentlichen Punkt, die Nachteile (IAM Permission Sprawl, Überberechtigung als Verstärker des Blast-Radius für Fehler/Prompt Injection, Berechtigungen, die die Aufgabe überdauern, Kosten-Amoklauf – mit realen Vorfällen gelöschter Prod-DBs 2025-26), auf Basis offizieller AWS-Quellen und Berichten von Security-Anbietern. Der entscheidende Dreh: Die Frage ist nicht „geht das?“, sondern „wie delegiert man ohne Amoklauf oder explodierende Rechnung“ – und dass AWS selbst IAM-Guardrails, CloudTrail-Audit und Sandboxing in das Agent Toolkit einbaut, zeigt die Gestalt der Antwort. Enthält die fünf Prinzipien (Least-Privilege-IAM, menschliche Freigabe für destruktive Operationen, Observability, kurzlebige JIT-Zugangsdaten, Sandboxing) und eine FAQ.

Die erste Hürde beim Einbau eines KI-Agenten in echte Arbeit ist die Frage, „auf welchem Framework man ihn baut“. Aus der Sicht von Entwicklern und Technologie-Entscheidern vergleicht dieser Artikel sechs wichtige Frameworks — LangGraph, CrewAI, AutoGen (im Microsoft Agent Framework aufgegangen, GA April 2026), OpenAI Agents SDK, Google ADK und Claude Agent SDK — nach Orchestrierungsansatz (gerichteter Graph / rollenbasierte Crew / konversationsbasierter GroupChat / Handoffs / hierarchischer Baum / autonome Werkzeugschleife), Sprache, Lernkurve, Steuerbarkeit, Produktionsreife, Token-Kosten und passendem Anwendungsfall. Der zentrale Vorbehalt: Das Framework, das sich „am schnellsten prototypisieren lässt“ (CrewAI), kann im Produktivbetrieb das teuerste sein — rund das 3-Fache der Tokens (41k gegenüber 18,5k bei LangGraph in einem Benchmark) und nicht-deterministisch, was es für Finanz- und Gesundheitswesen ungeeignet macht. Außerdem erklärt der Artikel, wie 2026 die Interoperabilität über MCP (Werkzeuge) und A2A (Agent-to-Agent) kam, sodass Agenten aus verschiedenen Frameworks nun zusammenarbeiten können und der Lock-in verblasst ist. Mit Leitfaden zur Auswahl nach Anwendungsfall und FAQ.

In „So baust du ein Multi-Agenten-System“ hieß es, jede Übergabe zu instrumentieren, bevor man Agenten hinzufügt; die Technologie, die diese Instrumentierung in der Produktion trägt, ist AI observability. Sie macht sichtbar, was LLMs und Agenten in der Produktion tatsächlich tun (welches Modell mit welchem Prompt, welche Tools und Suchen, was zurückkam und wie lange und wie viel es kostete), damit du bis zur Ursache zurückverfolgen kannst. Der entscheidende Unterschied zum gewöhnlichen App-Monitoring: KI kann 200 OK in 50ms zurückgeben und trotzdem selbstbewusst halluzinieren, sodass die meisten KI-Ausfälle Qualitäts-Ausfälle sind (Halluzination, schwaches Retrieval, unsichere Antworten, unvollständige Aufgaben, schlechte Tool-Nutzung, Regressionen nach Prompt-Änderung) und keine Infrastruktur-Ausfälle. Observability ruht auf drei Säulen: traces (eine Anfrage als Baum aus spans, der LLM-Aufrufe, Tools, Retrieval und Argumentationsketten zeigt; der Star der KI-Beobachtung), metrics (Latenz, Kosten, Tokens, Fehlerrate, Durchsatz) und logs (Detail pro Ereignis). Der Industriestandard OpenTelemetry GenAI-Konventionen erfasst Prompts, Antworten, Token-Verbrauch und Tool-/Agenten-Aufrufe in einem herstellerneutralen Schema, einspeisbar in Datadog/Grafana. Die am häufigsten verwechselte Unterscheidung ist Observability vs. Evaluation (evals): Observability zeigt, was passiert ist (leicht zu messen, kann aber nicht sagen, ob die Antwort korrekt ist), während evals messen, ob die Antwort gut ist (Genauigkeit, groundedness, Sicherheit) und explizite Bewertung erfordern. Da Kosten und Latenz leicht zu messen sind, die Antwortqualität aber nicht, kombinieren Tools von 2026 die trace-Anzeige mit Output-Bewertung und Verschlechterungs-Alarmen. Kennzahlen teilen sich in betriebliche (Kosten, Latenz, Tokens, Fehlerrate) und qualitative (Halluzination, groundedness/faithfulness, am wichtigsten für RAG, Sicherheit, Aufgabenerfüllung), mit Halluzinationserkennung via LLM-as-a-judge, semantischer Ähnlichkeit und groundedness-Scores. Wichtige Tools: LangSmith (LangChain), Langfuse (Open-Source-Self-Host), Arize Phoenix (RAG-Debugging), MLflow (Lebenszyklus), AgentOps (Agenten) und OpenTelemetry (der Standard). Beginne mit dem Erfassen von traces (OpenTelemetry-konform), visualisiere betriebliche Kennzahlen und binde dann evals an, bevor du ausrollst. Für Multi-Agenten-Systeme ist Beobachtung unverzichtbar, da sich Fehler in mehrstufigen Ketten verbergen, die nur in einem vollständigen Session-Trace sichtbar sind. Beobachten plus bewerten macht KI produktionsreif. Abbildungen und Merkmale sind aus öffentlichen Materialien zitiert, als Richtwert.