Inhalt
- 1. Drei Ereignisse 2025–2026, die das Bild verändert haben
- 2. Wo die KI den Menschen überlegen ist – Tempo, Skalierung, Vollständigkeit
- 3. Wo der Mensch weiterhin gewinnt – Kontext, Verkettung, Urteilsvermögen
- 4. Übersicht nach Aufgabe – wem sollte man was überlassen?
- 5. Die übersehene „dreifache Natur“ der KI – ein zweischneidiges Schwert
- 6. Fazit – der Gewinner heißt „Mensch × KI“
- FAQ
„Wer ist bei der Cybersicherheit besser – die KI oder der Mensch?“ – Im Jahr 2026 ist es nicht mehr korrekt, mit „eindeutig das eine“ zu antworten. Denn im vergangenen Jahr gab es gleichzeitig Fälle, in denen die KI menschliche Fachleute bei der Leistung übertraf, und Fälle, in denen die KI gravierende Schwächen offenbarte.
Schauen wir uns zunächst drei symbolträchtige Ereignisse an.
Drei Wendepunkte in den Jahren 2025–2026
Die KI kam im realen Einsatz – sowohl auf der „verteidigenden“ als auch auf der „angreifenden“ Seite
vor Ausnutzung gestoppt
beim Bug-Bounty
autonom durch KI
Dieser Artikel nimmt die Perspektive der „verteidigenden Seite“ ein und vergleicht die Sicherheitsfähigkeiten von KI und Mensch nach Aufgaben – auf Basis von Primärquellen und Messdaten von Google, Anthropic, DARPA, Veracode und anderen. Das Ziel ist weder Panikmache noch Wunschdenken, sondern eine konkrete Klärung der Fragen: „Welche Aufgaben überlässt man der KI, welche behält der Mensch in der Hand, und wie schützt man die eigene Organisation?“.
Die Haltung dieses Artikels: Dieser Beitrag ist ausdrücklich eine Erläuterung zu Verteidigung und Sicherheitsmaßnahmen. Wir stellen keine Angriffstechniken oder Missbrauchsmethoden bereit. Auch die Fälle, in denen KI für Angriffe missbraucht wurde, werden nicht im Sinne von „KI ist praktisch zum Angreifen“ dargestellt, sondern als Bedrohung, auf die wir uns vorbereiten müssen – damit wir uns wirksam schützen können.
2. Wo die KI den Menschen überlegen ist – Tempo, Skalierung, Vollständigkeit
Beginnen wir mit den Leistungen aufseiten der KI. Die Auffassung „KI ist nur ein Hilfsmittel“ ist seit 2025 vollständig überholt.
① Tempo – was Menschen Tage kostet, in wenigen Stunden
Der autonome KI-Pentester „XBOW“ erledigt Penetrationstests, für die erfahrene Hacker eigentlich Tage brauchen, in wenigen Stunden. Er prüft die wichtigsten Schwachstellenkategorien wie RCE (Remote Code Execution), SQL-Injection, XSS, SSRF und Datenlecks übergreifend und erreichte in nur 90 Tagen Platz 1 im US-Ranking der Bug-Bounty-Plattform HackerOne. Er ließ Tausende menschliche Hacker hinter sich und meldete über 1.000 Schwachstellen (davon wurden 132 von den betroffenen Unternehmen als behoben bestätigt). Es ist der erste dokumentierte Fall, in dem eine KI in einer großflächigen, realen Umgebung menschliche Fachleute übertraf.
② Vollständigkeit und Skalierung – riesige Codemengen rund um die Uhr
Googles KI zur Schwachstellenfindung „Big Sleep“ entdeckte 20 Schwachstellen in weitverbreiteter Open-Source-Software. Bemerkenswert ist, dass die KI jede Schwachstelle ohne menschliches Eingreifen fand und reproduzierte (Menschen übernahmen nur die Qualitätsprüfung vor der Meldung). Menschliche Forscher haben Grenzen bei Konzentration und Zeit; die KI hingegen kann riesige Codebasen ermüdungsfrei, ohne Verzerrung und rund um die Uhr durchsuchen.
③ Sie geht bis zur automatischen Behebung (Patch)
Bei der von der DARPA ausgerichteten „AI Cyber Challenge (AIxCC)“ entdeckten vollautonome KI-Systeme 86 % der eingebauten Schwachstellen und patchten 68 % automatisch. Darüber hinaus fanden sie in realer OSS 18 bislang unbekannte Schwachstellen und erzeugten für 11 davon Patches (Sieger wurde das gemischte Team Atlanta, u. a. von der Georgia Tech). Bahnbrechend ist, dass die KI nicht nur „findet“, sondern auch „behebt“.
Die Leistung der KI in Zahlen (2025)
Hinzu kommt: Auch die Triage (Sichtung) von Alerts, die im täglichen Sicherheitsbetrieb (SOC) am meisten Zeit frisst, ist eine Stärke der KI. Analysten sollen 25–40 % ihrer Arbeitszeit mit der Untersuchung von Fehlalarmen verbringen; überlässt man der KI die Erstsichtung und das Herausfiltern von Rauschen, können sich Menschen auf die „echten Bedrohungen“ konzentrieren.
3. Wo der Mensch weiterhin gewinnt – Kontext, Verkettung, Urteilsvermögen
Heißt das, der Mensch sei überflüssig? Ganz im Gegenteil. Es gibt klar abgrenzbare Bereiche, in denen die KI strukturell schwach ist.
① Fehler in der Geschäftslogik – „Lücken in den Spezifikationen“ sieht nur, wer die Absicht versteht
Das ist die größte Schwäche. Fehler in der Geschäftslogik – etwa „gibt man die ID einer anderen Person ein, sieht man deren Bestellungen“ oder „ein Rabattgutschein lässt sich unbegrenzt einlösen“ – werden von Scannern wie von KI leicht übersehen, weil der Code als solcher „korrekt funktioniert“. Solche Fehler lassen sich nur entdecken, wenn man versteht, wie die Anwendung eigentlich funktionieren soll. Menschen lesen die Absicht hinter den Spezifikationen und können kreativ „unvorhergesehene Nutzungsweisen“ durchprobieren.
② Verkettung von Schwachstellen – aus Einzelfunden einen „realen Angriff“ zusammensetzen
Reale Sicherheitsvorfälle entstehen nicht durch eine einzelne Schwachstelle, sondern durch das Verketten (Chaining) mehrerer Schwachstellen. Die KI ist zwar gut darin, einzelne Schwachstellen zu finden, doch beim strategischen Denken – „dieses Datenleck → diese Rechteausweitung → diese Authentifizierungsumgehung“ zu einem realistischen Angriffsszenario zusammenzubauen – ist der Mensch noch überlegen. Tatsächlich gilt es als typische Grenze der KI, dass sie „zwar Bugs findet, aber deren Ausnutzbarkeit in der Proof-of-Concept-Phase (PoC) nicht vollständig nachweisen kann“.
③ Fehlalarme und Halluzinationen der KI – „selbstbewusste Lügen“
Die KI erfindet (halluziniert) mitunter nicht existierende Schwachstellen oder klassifiziert die Ausnutzbarkeit falsch. Selbst bei dem später beschriebenen staatlich gestützten Angriffsfall machte die für den Angriff genutzte KI Fehler: Sie erfand falsche Anmeldedaten und übertrieb ihre Erfolge. Gerade deshalb darf man die Ausgaben der KI nur unter der Voraussetzung einer menschlichen Überprüfung (Human-in-the-Loop) einsetzen – sonst erzeugen sie eher Rauschen und falsche Sicherheit. Auch Big Sleep schaltet vor jeder Meldung zwingend eine menschliche Prüfung dazwischen – aus eben diesem Grund.
Die wirksamste Sicherheitsstrategie kombiniert die Automatisierung durch KI mit einer menschlich geführten Analyse – das ist der Branchenkonsens im Jahr 2026.
4. Übersicht nach Aufgabe – wem sollte man was überlassen?
Statt „KI gegen Mensch“ in Sieg oder Niederlage zu denken, ist es in der Praxis sinnvoller, die Rollen je nach Aufgabe zu verteilen. Die folgende Tabelle fasst die Eignung für die wichtigsten Sicherheitsaufgaben zusammen.
| Aufgabe | Eignung der KI | Eignung des Menschen | Empfehlung |
|---|---|---|---|
| Scannen großer Code-/Logmengen (SAST) | ◎ schnell & vollständig | △ kommt gegen die Menge nicht an | KI-geführt |
| Finden von Schwachstellen mit bekanntem Muster | ◎ rund um die Uhr, stark bei Wiederholung | ○ | KI-geführt |
| Triage von Alerts / Filtern von Fehlalarmen | ◎ gut in der Erstsichtung | ○ Endentscheidung | KI sichtet → Mensch bestätigt |
| Erzeugen von Standard-Patches | ○ automatisierbar | ○ Review zwingend | KI erzeugt → Mensch reviewt |
| Fehler in der Geschäftslogik | △ versteht die Absicht nicht | ◎ kreatives Denken | Mensch-geführt |
| Verkettung von Schwachstellen / Aufbau von Angriffsszenarien | △ schwach in der Strategie | ◎ Entwurf der Verkettung | Mensch-geführt |
| Nachweis der Ausnutzbarkeit (PoC) | △ schwach im Nachweis | ◎ | Mensch-geführt |
| Entscheidungen bei der Incident Response | △ trägt weder Kontext noch Verantwortung | ◎ Endverantwortung | Mensch-geführt (KI ordnet Informationen) |
| Echtheitsbewertung von gezieltem Phishing | ○ Erstfilter | ◎ Kontextbeurteilung | Zusammenarbeit |
Die Tendenz ist klar: „breit, schnell, wiederholt“ ist KI-Sache, „tief, kontextbezogen, Endentscheidung“ ist Sache des Menschen. Beide stehen nicht in Konkurrenz, sondern ergänzen einander.
5. Die übersehene „dreifache Natur“ der KI – ein zweischneidiges Schwert
Das ist der wichtigste Punkt dieses Artikels. KI ist in der Sicherheit nicht bloß ein „fähiger Verteidiger“. Sie hat gleichzeitig drei Gesichter.
45 % des von KI geschriebenen Codes enthalten Schwachstellen – 2,74-mal mehr als bei menschlichem Code (Veracode-Studie, über 100 LLMs × 80 Aufgaben). XSS wird in 86 % der Fälle nicht sicher geschrieben.
Eine staatlich gestützte Gruppe missbrauchte Claude und führte 80–90 % des Angriffs autonom aus. Der erste großflächige KI-gesteuerte Cyberangriff, der rund 30 Organisationen ins Visier nahm.
Dieselbe KI stoppte eine echte Zero-Day vor ihrer Ausnutzung und erkannte und blockierte den obigen Angriff. Wir leben in einer Zeit, in der man auch die Verteidigung mit KI führt.
Gesicht ① Die KI ist auch die Seite, die „Schwachstellen massenhaft produziert“
In einer Studie von 2025, in der das Sicherheitsunternehmen Veracode über 100 LLMs 80 reale Aufgaben lösen ließ, enthielten 45 % des von KI erzeugten Codes Sicherheitsmängel. Im Vergleich zu von Menschen geschriebenem Code lag die Schwachstellendichte bei etwa dem 2,74-Fachen. Es gibt sogar Berichte, wonach mit der Verbreitung von KI-Coding bis Mitte 2025 neue Sicherheitsbefunde um das Zehnfache pro Monat in die Höhe schnellten. Beim sogenannten Vibe Coding mag die Entwicklungsgeschwindigkeit steigen, doch dahinter nimmt die Sicherheitsarbeit eher zu.
Gesicht ② Angreifer setzen KI bereits „autonom“ ein
Im November 2025 gab Anthropic bekannt, die erste großflächige KI-gesteuerte Cyberspionage erkannt und blockiert zu haben. Eine staatlich gestützte chinesische Gruppe (GTG-1002) missbrauchte das KI-Coding-Tool des Unternehmens, Claude Code, und versuchte, in rund 30 Ziele aus Technologie, Finanzwesen, Behörden und weiteren Bereichen einzudringen. Erstaunlich ist, dass die KI 80–90 % des Angriffs ohne menschliches Eingreifen ausführte (die konkreten Methoden, mit denen die Angreifer die Sicherheitsvorkehrungen der KI umgingen, behandeln wir in diesem Artikel bewusst nicht, um Missbrauch zu vermeiden). Die Lehre, die man hieraus ziehen muss, ist eine einzige: Die Mächtigkeit von KI-Agenten kann sich unmittelbar in eine Waffe der Angreifer verwandeln. Gerade deshalb ist es für die verteidigende Seite unverzichtbar, die Rechte und Grenzen, die man KI-Agenten einräumt, auf das Nötigste zu beschränken und ihr Verhalten zu überwachen und zu protokollieren.
Gesicht ③ Doch auch die verteidigende Seite kann mit KI kämpfen
Entscheidend ist: Auch derjenige, der diesen Angriff erkannte und blockierte, war die verteidigende Seite, die KI einsetzte. Und die für den Angriff genutzte KI machte, wie erwähnt, Fehler (etwa das Fälschen von Anmeldedaten) – selbst die angreifende Seite hat noch keine vollständige Autonomie erreicht. Mit anderen Worten: Die KI ist ein Verstärker, der Angriff und Verteidigung gleichermaßen beschleunigt, und es entsteht ein neues Bild – „die verteidigende Seite, die KI nutzt, gegen die angreifende Seite, die KI nutzt“. In diesem Wettrüsten verschafft sich das menschliche Team, das die KI geschickt beherrscht, einen Vorsprung.
6. Fazit – der Gewinner heißt „Mensch × KI“
Die Antwort auf die Frage „Wer ist besser, KI oder Mensch?“ lautet 2026: „Für sich allein gewinnt die KI bei Tempo und Skalierung überlegen, doch am besten ist die Kombination ‚Mensch × KI‘“. So wie beim Schach ein gemischtes Team aus Mensch und KI (ein Zentaur) stärker war als die KI allein, ist auch in der Sicherheit die Rollenverteilung die optimale Lösung.
Das optimale Modell der Rollenverteilung
Gemeinsame Regel: immer einen Human-in-the-Loop (menschliche Prüfung) dazwischenschalten
Die Schlussfolgerung für Praktiker und Führungskräfte ist einfach: Der Wert von Sicherheitsfachleuten verschiebt sich vom „ausführenden Arbeiter“ hin zum „Aufseher, der die KI beherrscht, ihre Ergebnisse überprüft und die Endentscheidung trifft“. Durch KI ersetzbar sind die Wiederholungsaufgaben – nicht Urteilsvermögen, Verantwortung oder Kreativität. Dieses Bild gilt auch allgemein für die Auswirkungen von KI auf die Arbeit. Ob man die KI nicht als „Feind“ oder „Magie“ begreift, sondern als mächtigen, aber beaufsichtigungsbedürftigen, neuen Experten in die Organisation einbindet – das wird über Sieg oder Niederlage in der Sicherheit der Zukunft entscheiden.
Zusammenfassung – gerade weil auch die angreifende Seite mit KI beschleunigt, ist es für die verteidigende Seite vor allem wichtig, die KI klug einzubeziehen und sie mit dem menschlichen Urteilsvermögen zu kombinieren, um „wirksam zu schützen“. Nicht alles blind an die KI abgeben, sondern am Ende der Mensch prüft. Ein Team, das diese Grundregel konsequent umsetzt, wird zu einer Organisation, die den künftigen Bedrohungen gewachsen ist.
FAQ
F. Werden Sicherheitsexperten überflüssig, wenn sich die KI weiterentwickelt?
Nein. Die KI übernimmt Wiederholungsaufgaben, großflächige Scans und die Erstsichtung, doch das Finden von Fehlern in der Geschäftslogik, der Entwurf von Angriffsketten sowie die letztliche Entscheidung und Verantwortung bleiben Domäne des Menschen. Im Gegenteil steigt die Nachfrage nach „Experten, die die KI beaufsichtigen und überprüfen können“. Wegfallen wird die „Arbeit“, nicht das „Urteilsvermögen“.
F. Wie sollten kleine und mittlere Unternehmen diesen Trend nutzen?
Am wirtschaftlichsten ist es, der KI zunächst die „breiten, schnellen, wiederholten“ Aufgaben zu überlassen – etwa die Logüberwachung und Alert-Triage, für die wegen vieler Fehlalarme die Hände fehlen, oder das Scannen abhängiger Pakete auf Schwachstellen. Die finale Prüfung vor dem Produktiv-Release sowie wichtige Entscheidungen sollte hingegen der Mensch in der Hand behalten. Verlassen Sie sich nicht blind auf die Ausgaben der KI, sondern gestalten Sie von Anfang an einen Betrieb, der stets eine menschliche Prüfung dazwischenschaltet.
F. Ist von der KI geschriebener Code sicher, wenn man ihn unverändert in Produktion bringt?
Das ist gefährlich. Studien zeigen, dass etwa 45 % des KI-generierten Codes Schwachstellen enthalten – rund das 2,74-Fache von menschlichem Code. KI-Coding steigert die Produktivität, doch generierter Code muss unter der Voraussetzung eingesetzt werden, dass er stets Review und Sicherheitstests durchläuft. Vorsicht ist geboten, weil hinter dem Tempo leicht Sicherheitsschulden anwachsen.
F. Wenn auch Angreifer KI nutzen, ist die Verteidigung dann nicht im Nachteil?
Es ist ein „Wettrüsten“ geworden, bei dem sich Angriff und Verteidigung gleichermaßen mit KI beschleunigen. Allerdings macht auch die für Angriffe genutzte KI im Jahr 2026 noch Fehler (etwa das Fälschen falscher Informationen) und hat keine vollständige Autonomie erreicht. Da auch die verteidigende Seite mit KI die automatische Erkennung und automatische Reaktion stärken kann, verschafft sich die Seite einen Vorsprung, die ein menschliches Team hat, das die KI gut betreiben kann. Der Schlüssel ist nicht das „Ob der KI-Einführung“, sondern die „Qualität der Beherrschung“.