KI-Tool-Anleitungen, Vergleiche und Neuigkeiten

Ollama ist das erste Tool, das du für lokale LLMs installieren solltest – es nimmt dir die mühsame Einrichtung fast vollständig ab, sodass du ein Modell mit einem einzigen Befehl herunterladen und sofort loschatten kannst. Dieser Einsteiger-Leitfaden führt von A bis Z durch Installation (Win/Mac/Linux), die wichtigsten Befehle, das Beschaffen und Auswählen von Modellen nach VRAM-Größe, GUIs wie Open WebUI, die lokale und OpenAI-kompatible API zum Einbinden in eigene Apps, Anpassung über Modelfile und Umgebungsvariablen sowie Fehlerbehebung – damit du Ollama als „Docker für LLMs“ schnell zum Laufen bringst.

Welches lokale LLM solltest du installieren? Dieser Leitfaden für 2026 ordnet die wichtigsten Modellfamilien – Qwen, Llama, Gemma, DeepSeek, Mistral, Phi und mehr – nach Entwickler, Herkunftsland, Einsatzzweck, Größe und Lizenz, damit du das passende „erste Modell“ für deinen PC findest. Mit einem eigenen Abschnitt zu deutschen und europäischen Modellen wie Teuken-7B (OpenGPT-X/Fraunhofer), Aleph Alpha, den Llama-Feintunings LeoLM und DiscoLM sowie Mistral aus Frankreich – plus klaren Empfehlungen nach VRAM-Größe, praktischen Tipps zur kommerziellen Lizenzierung und dem Hinweis, dass lokal betriebene Modelle deine Eingaben nie nach außen senden.

Du willst ein lokales LLM betreiben, weißt aber nicht, ob dein PC ausreicht? 90 % der nötigen Spezifikation hängt am VRAM – dem Speicher deiner GPU. Dieser Guide liefert eine VRAM-Schnelltabelle nach Modellgröße (7B bis 70B), eine einfache Formel zum Selbstrechnen, die oft übersehene Speicherfalle aus Kontextlänge und KV-Cache sowie realistische Geschwindigkeiten für gängige GPUs und Macs. Am Ende findest du empfohlene Konfigurationen in drei Budget-Stufen, damit auch Einsteiger sicher entscheiden können, welche Hardware sie wirklich kaufen sollten.

Ein lokales LLM auf dem eigenen PC oder cloudbasierte Dienste wie Claude, ChatGPT und Gemini — beide sind „LLMs“, unterscheiden sich aber klar in Leistung, Kosten, Datenschutz und Aufwand. Dieser Artikel stellt die Unterschiede in einem Vergleich nebeneinander und legt ehrlich dar, wie weit sich der oft missverstandene Leistungsabstand bis 2026 geschlossen hat. Anschließend führt er dich anhand deines Anwendungsfalls zu der Frage, wofür du dich entscheiden solltest — für die meisten Menschen ist Hybrid die Antwort. Geschrieben, sodass man ihn ohne Vorkenntnisse lesen kann.

Generative KI ist tief in den Arbeitsalltag eingewoben — doch was, wenn eine KI morgen plötzlich nicht mehr verfügbar ist? Wie der Fall Fable 5 / Mythos 5 im Juni 2026 zeigte — drei Tage nach dem Start gesperrt, 19 Tage später am 1. Juli 2026 wieder ausgerollt —, kann selbst ein Spitzenmodell durch Regulierung über Nacht verschwinden. Dieser Artikel erklärt verständlich, was KI-Abhängigkeitsrisiko ist und in welchen sechs Formen eine KI "verschwinden" kann. Anschließend liefert er konkrete Vorsorge für beide Seiten: fünf Gewohnheiten für Einzelnutzer und Redundanzdesign für Produktivsysteme — von der Abstraktionsschicht (LLM-Gateway) über Fallback-Ketten und lokale LLMs bis zum Wiederherstellungs-Playbook und einer Checkliste für die Anbieterwahl.

Mit den Berechtigungsregeln von Claude Code schreibst du allow/ask/deny-Einträge in der settings.json, um feingranular festzulegen, welche Tools, Befehle, Dateien und Domains ohne Rückfrage laufen, jedes Mal nachfragen oder verboten sind. Dieser Leitfaden erklärt, was Berechtigungsregeln sind (und wie sie sich von Modi unterscheiden), die deny→ask→allow-Reihenfolge, die Regelsyntax mit Tool(specifier), die settings.json-Hierarchie sowie praktische Rezepte. So blockierst du Gefährliches sicher und automatisierst sichere Routinearbeit.

Der „Berechtigungsmodus“ neben dem Eingabefeld legt fest, wie oft Claude Code vor einer Änderung oder einem Befehl nachfragt. Dieser Leitfaden erklärt die 5 Modi (Um Erlaubnis fragen, Änderungen akzeptieren, Planmodus, Auto-Modus, Berechtigungen umgehen) plus dontAsk, wie Sie per Shift+Tab wechseln und welcher Modus wann der richtige ist.

Der Aufwandsregler in Claude Code steuert, wie viel Denken und wie viele Token in jede Antwort fließen. Wir erklären die 5 API-Stufen (low–max), warum „Extra“ = xhigh und nicht das Maximum ist, den Zusatzmodus Ultracode sowie wann du welche Stufe nutzt.

Agent Evals sind der Prozess, systematisch zu messen, ob ein Agent – einer, der Tools nutzt und mehrere Schritte unternimmt, um ein Ziel zu erreichen – seine Aufgaben tatsächlich erfüllen kann. Sie sind eine Weiterentwicklung der LLM-Evals und erweitern das Ziel von "einem Output" zu "einer Abfolge von Handlungen". Weil ein Agent plant, Tools aufruft und Zustand aktualisiert, reicht der finale Output allein nicht aus; Google merkt an, dass man das "Warum" hinter den Handlungen eines Agenten verstehen muss, und teilt die Bewertung in final response und trajectory. Die fünf Dimensionen sind: Ergebnis (Aufgabenerfolg, beurteilt am finalen Zustand – ob eine Reservierung in der DB existiert, nicht die Äußerung "Ich habe gebucht"), trajectory (sinnvolle Schritte, richtige Tools in richtiger Reihenfolge), Korrektheit der Tool-Nutzung (richtiges Tool und Argumente, Prüfung von Funktionsnamen und Typen), Effizienz (Schritte, Tokens, Kosten, Latenz – oft Observability-Signale in der Bewertung) und Qualität der finalen Antwort (über LLM-as-judge oder eine Rubrik). Grader sind Code (schnell/günstig/reproduzierbar, aber fragil), LLM-as-judge (flexibel, aber nicht deterministisch und kalibrierungsbedürftig) und Mensch (Goldstandard, aber teuer – möglichst vermeiden). Anthropic empfiehlt, das Ergebnis zu bewerten, nicht den Weg: stures trajectory matching ist "zu starr und fragil", da Agenten gültige Alternativen finden, während Google und Microsoft trajectory-match-Metriken zur Fehlerdiagnose anbieten. Die einzigartigen Fallstricke sind Nicht-Determinismus (pass^k), sich verstärkende Fehler (p^t), Reward Hacking (DeepMinds Roboterarm täuscht einen Griff vor) und veraltete oder kontaminierte Eval-Sets. Das praktische Vorgehen laut Anthropic: 20–50 Produktionsfehler in Testfälle verwandeln, automatisierte Bewertung in CI laufen lassen, Capability- und Regressions-Evals trennen und sie früh schreiben. Benchmarks wie SWE-bench, tau-bench, WebArena, GAIA, OSWorld und BFCL sind nützliche Referenzen (die Ergebnisse bewegen sich je nach Version, nehmen Sie sie also nicht für bare Münze). Auf Basis offizieller Informationen, mit gekennzeichneten Unsicherheiten.

Claude Code Hooks sind benutzerdefinierte Shell-Befehle, die an bestimmten Punkten im Lebenszyklus von Claude Code automatisch laufen und machen "das muss immer passieren" real und deterministisch, ohne sich auf das Ermessen des LLM zu verlassen. Die klassischen Events sind neun – SessionStart, UserPromptSubmit, PreToolUse, PostToolUse, Notification, Stop, SubagentStop, SessionEnd, PreCompact –, von denen PreToolUse und andere blockieren können (Bearbeitungen geschützter Dateien oder gefährliche Befehle stoppen). Konfiguriert werden sie in settings.json unter dem Schlüssel "hooks" als Event-Name -> matcher -> type + command. Der E/A-Kontrakt: Ein Hook empfängt JSON über stdin (session_id, tool_input usw.) und gibt über Exit-Code 0 (Erfolg) / 2 (blockieren, mit stderr zurück an Claude) oder strukturiertes JSON (continue, decision:block, permissionDecision: deny/allow/ask) zurück. Das zentrale Prinzip lautet "Hooks können Beschränkungen verschärfen, aber nicht lockern" (deny gewinnt immer, blockiert sogar unter bypassPermissions). Klassische Anwendungsfälle: Auto-Format nach Bearbeitungen (PostToolUse + Edit|Write), kritische Dateien schützen, gefährliche Befehle stoppen, Kontext erneut einspeisen (SessionStart), Benachrichtigungen/Audit-Logging und Testen vor dem Stoppen (Stop). Zur Sicherheit: Hooks führen beliebige Shell-Befehle mit deinen Rechten aus, konfiguriere also nur vertrauenswürdige und validiere/quote Eingaben; die Hook-Konfiguration wird beim Session-Start erfasst (ein Sicherheitsmerkmal), sodass Änderungen mitten in der Session nicht greifen. Auf Basis der offiziellen Dokumentation, gestützt auf die neun klassischen Events und den E/A-Kontrakt.

Checkpointing und /rewind sind ein Sicherheitsnetz: Claude Code verfolgt Claudes Dateibearbeitungen automatisch, während Sie arbeiten, sodass Sie mit ein paar Tastendrücken zu "bevor es schiefging" zurückrollen. Vor jeder Bearbeitung wird ein Snapshot erstellt, jeder gesendete Prompt wird zu einem Wiederherstellungspunkt, und Checkpoints bleiben über Sitzungen hinweg erhalten. Zum Nutzen: tippen Sie /rewind oder drücken Sie zweimal Esc bei leerem Eingabefeld, um das Menü zu öffnen, wählen Sie dann einen Punkt und Code und Konversation wiederherstellen / Konversation wiederherstellen / Code wiederherstellen (Hinweis: enthält das Eingabefeld Text, löscht zweimaliges Esc stattdessen die Eingabe). Der wichtigste Vorbehalt: nur Änderungen durch Claudes Bearbeitungstools (Write/Edit/NotebookEdit) werden wiederhergestellt – Dateiänderungen durch bash-Befehle (rm/mv/cp), Änderungen außerhalb der Sitzung oder aus anderen Sitzungen, Verzeichnisoperationen, Remote-Dateien und der Datenbankzustand werden durch Rewind NICHT rückgängig gemacht. Die Dokumentation rahmt es als "Checkpoints = lokales Rückgängig, Git = dauerhafte Historie" und sagt, dass es die Versionskontrolle ergänzt, aber nicht ersetzt, weshalb das Committen an Meilensteinen in Git die Regel ist. /rewind ist auch die Wiederherstellung beim 400-Fehler rund um die Nebenläufigkeit der Tool-Nutzung und Thinking-Blöcke (das Produkt selbst fordert Sie dazu auf), wobei Versionen vor v2.1.156 ihn möglicherweise nicht beheben, sodass claude update zuerst kommt. Es ist in der interaktiven CLI standardmäßig aktiviert, im Agent SDK ein Opt-in, und wird mit den Sitzungen 30 Tage aufbewahrt (konfigurierbar). Auf Basis der offiziellen Dokumentation, mit gekennzeichneten Unsicherheiten.

Claude Managed Agents startete am 8. April 2026 als öffentliche Beta – eine Suite zusammensetzbarer APIs zum Erstellen und Bereitstellen cloud-gehosteter Agenten im großen Maßstab. Statt eine eigene Agent-Schleife, Tool-Ausführung und Laufzeitumgebung zu bauen, erhalten Sie eine vollständig verwaltete Umgebung, in der Claude sicher Dateien lesen, Befehle ausführen, im Web surfen und Code ausführen kann, mit eingebautem Prompt-Caching, Kontext-Kompaktierung, Sandboxing und Zustandspersistenz. Es ist um vier Konzepte herum organisiert (Agent, Environment, Session, Events), und das Environment kann eine von Anthropic verwaltete Cloud-Sandbox oder eine selbst gehostete sein. Der Unterschied zum selbst gehosteten Agent SDK (wo Sie Schleife, Tools und Infrastruktur betreiben) ist „Sie betreiben es vs. Anthropic betreibt es“ – keine Konkurrenten, sondern eine Wahl darüber, wie viel des Betriebs Sie behalten. Ein charakteristisches Merkmal ist workspace-bezogener persistenter Speicher (ein memory store), in der Sandbox unter /mnt/memory eingehängt, den der Agent mit normalen Dateioperationen liest und schreibt und der über Sitzungen hinweg erhalten bleibt (unveränderliche Versionen, 30 Tage Aufbewahrung, Limits wie 100 kB pro Speicher). Dreaming ist ein asynchroner Job, der den vorhandenen Speicher und vergangene Transkripte liest, um einen reorganisierten memory store zu erzeugen – Duplikate zusammenführen, veraltete Werte aktualisieren und neue Erkenntnisse hervorheben (eine Research Preview, die Zugang erfordert; manche nennen es „geplant“, aber die Dokumentation beschreibt einen bei Bedarf erstellten asynchronen Job). Es verfügt außerdem über outcomes-basierte Bewertung (ein separater Grader bewertet anhand Ihrer Rubrik; berichtet wird eine Verbesserung von bis zu 10 Punkten) und Multi-Agent-Orchestrierung. Die Preise sind Tokens + $0.08 pro Sitzungsstunde (auf die Millisekunde abgerechnet, nur während des Betriebs; etwa $0.705 für eine 1-stündige Opus 4.8-Sitzung). Standardmäßig für alle API-Konten aktiviert, aber zustandsbehaftet und daher nicht für ZDR oder ein HIPAA BAA geeignet. Auf Basis offizieller Informationen, mit gekennzeichneten Unsicherheiten.