In den vorherigen Kapiteln haben wir den Nutzen und die Anwendungen der KI vorgestellt. Um KI aber wirklich zu „beherrschen“, ist es unerlässlich, die Risiken richtig zu verstehen. Die Risiken zu kennen, dient nicht dazu, sich vor KI zu fürchten. Genau wie man beim Autofahren „den Umgang mit der Bremse“ lernt, ist es Grundwissen, um KI sicher zu beherrschen.
Risiken sind nichts „Beängstigendes“, sondern etwas „Wissenswertes“
Die 5 großen Risiken der KI kennen
Die Risiken, die man beim KI-Einsatz kennen sollte, lassen sich grob in fünf ordnen. Jedes hat einen anderen Charakter, verschaffen wir uns also zunächst den Gesamtüberblick. Anschließend gehen wir jedes einzeln in die Tiefe.
Das Phänomen, plausibel klingende, faktenlose Informationen mit voller Überzeugung auszugeben. Das größte Risiko der KI.
Der doppelte Streitpunkt aus Trainingsdaten und Erzeugnis. Weltweit laufen Klagen.
Eingegebene Daten werden möglicherweise fürs Training verwendet. Einmal eingegeben, lässt es sich nicht zurücknehmen.
Eine gesellschaftliche Verzerrung in den Trainingsdaten schlägt sich unverändert in der Ausgabe nieder.
Von KI erzeugte nicht zu unterscheidende gefälschte Medien. Missbraucht für Betrug und Identitätsvortäuschung.
Halluzination – KI lügt mit voller Überzeugung
Eine Halluzination (Hallucination) ist das Phänomen, dass KI faktenlose Informationen so ausgibt, als wären sie wahr, mit voller Überzeugung. Es ist nicht übertrieben, es das größte Risiko der KI-Nutzung zu nennen.
Warum es passiert – die Funktionsweise verstehen
KI funktioniert nach dem Prinzip „das nächste, wahrscheinlichste Wort vorhersagen“. Sie gibt also nicht „das Richtige“ aus, sondern nur „das Plausible“. KI beurteilt nicht Wahr oder Falsch. Sie schlägt nicht in einem Lexikon nach, sondern betreibt lediglich Mustererkennung.
Je nach Modell gibt es große Unterschiede in der Halluzinationsrate. In einer Benchmark-Untersuchung 2025 lag das beste Modell (Gemini 2.0 Flash) bei 0,7 %, während bei manchen Modellen nahezu 30 % Halluzinationen waren[2]. Es gibt Fortschritte, aber null wird es nicht.
Tatsächlich eingetretene Fälle
- Erfundene Rechtsfälle – ein US-Anwalt legte dem Gericht mit ChatGPT recherchierte Präzedenzfälle vor, doch die zitierten Fälle existierten nicht (2023)
- Erfundene Fachartikel – plausibel klingende, nicht existierende Titel und Autorennamen generiert
- Falsche Statistiken – „Das Marktvolumen von XY beträgt YY Mrd.“ wird behauptet, weicht aber stark von der realen Zahl ab
- Rechtsbereich – laut einer Untersuchung der Stanford University erreicht die Halluzinationsrate bei rechtsbezogenen Anfragen in manchen Fällen 69–88 %[2]
Vier Schutzmaßnahmen
Halluzinationen begegnet man nicht mit „auf null bringen“, sondern mit einem „Mechanismus zum Durchschauen“. Mach dir die folgenden vier Schritte zur Gewohnheit.
„Was ist die Quelle dafür?“ zurückfragen. Behauptungen ohne Quellenangabe skeptisch begegnen.
Zahlen, Gesetze und Personennamen unbedingt an Primärquellen wie offiziellen Websites oder Originaltexten prüfen.
Dieselbe Frage an mehrere KIs stellen und abweichende Antworten als Warnsignal verstehen.
Mit Such-KIs, die mit Quell-Links antworten, wie Perplexity oder Gemini recherchieren.
Besonders aufpassen sollte man bei diesen vier: Statistiken & Zahlen, Personennamen & Eigennamen, Recht & Steuern und aktuelle Nachrichten. Diese Informationen unbedingt an Primärquellen absichern.
💡 Ein praktischer Tipp: Nutzt du KI-Tools mit Anbindung an die Websuche wie Perplexity oder Gemini, kommt die Antwort mit Quell-Links. Bei wichtigen Recherche-Aufgaben ist es klug, solche Such-KI-Tools gezielt einzusetzen. In Unternehmen setzt sich zunehmend auch die Einführung von KI-Guardrails durch, die Fehlantworten der KI mit einem Mechanismus verhindern.
Urheberrecht – darf man es nutzen? Wem gehört das Erzeugte?
Beim Thema KI und Urheberrecht gibt es grob zwei Fragen: „Darf man urheberrechtlich geschützte Werke fürs KI-Training verwenden?“ und „Haben von KI erstellte Werke ein Urheberrecht?“
Frage 1: KI-Trainingsdaten und Urheberrecht
KI-Modelle werden mit großen Mengen an Internetinhalten (Texte, Bilder, Code usw.) trainiert. Weltweit gibt es Klagen mit dem Vorwurf, Werke würden ohne Erlaubnis der Rechteinhaber verwendet.
| Klage | Kurzbeschreibung | Stand (Stand 2026) |
|---|---|---|
| NYT vs. OpenAI | Die New York Times klagt wegen unerlaubten Trainings mit Artikeln | anhängig |
| Getty vs. Stability AI | Klage wegen unerlaubten Trainings mit Fotos | anhängig |
| Sammelklage von Künstlern | Werke wurden ohne Erlaubnis fürs Training bildgenerierender KI verwendet | mehrere laufend |
| Yomiuri, Asahi, Nikkei vs. Perplexity | Wegen unerlaubter Nutzung von Artikeln Schadenersatzforderung von insgesamt rund 6,6 Mrd. Yen | Klage 2025 |
Frage 2: Urheberrecht an KI-Erzeugnissen
Ob von KI generierten Inhalten ein Urheberrecht zuerkannt wird, wird je nach Land unterschiedlich beurteilt.
Was die KI autonom erzeugt, hat kein Urheberrecht. Bei schöpferischer menschlicher Beteiligung kann es jedoch geschützt sein.
Das Copyright Office vertritt die Position, „rein von KI erzeugten Werken kein Urheberrecht zuzuerkennen“. Bei schöpferischer menschlicher Kontrolle möglicherweise teilweise anerkannt.
Die Regelsetzung zum Urheberrecht an KI-Erzeugnissen läuft.
Worauf du achten solltest
- Bei kommerzieller Nutzung unbedingt die Nutzungsbedingungen des jeweiligen Dienstes prüfen
- Bei der Bildgenerierung keinen bestimmten Künstlernamen angeben („im Stil von XY“ ist eine Quelle urheberrechtlicher Konflikte)
- Prüfen, ob die KI-Ausgabe bestehenden geschützten Werken ähnelt
- Bei Bedarf kennzeichnen, dass es KI-generiert ist
Datenschutz – was man der KI übergeben darf
2023 gab ein Mitarbeiter von Samsung Electronics vertraulichen internen Code in ChatGPT ein, was zu einer großen Nachricht wurde. Dieser Vorfall gab vielen Unternehmen den Anstoß, Richtlinien zur Eingabe von Informationen in KI zu erstellen.
In die KI eingegebene Daten werden möglicherweise zur Verbesserung des Dienstes oder zum Training des Modells verwendet. Handle nach der Prämisse: „Einmal eingegebene Informationen lassen sich nicht zurücknehmen.“ Was und wie man eingeben sollte, erklären wir ausführlich unter Worauf man bei Eingaben in KI achten sollte.
- Firmengeheimnisse, unveröffentlichter Quellcode
- Personenbezogene Daten von Kunden oder Geschäftspartnern
- Passwörter, API-Schlüssel, Zugangsdaten
- Unveröffentlichte Finanz- oder Personaldaten
- Von anderen anvertraute Geheiminformationen
- Bereits öffentlich zugängliche Informationen
- Daten, in denen Personen- und Firmennamen anonymisiert sind
- Selbst verfasste, zur Veröffentlichung bestimmte Texte
- Pressemitteilungen, öffentliche Unterlagen
- Fiktive oder Beispieldaten
Konkrete Maßnahmen zum Datenschutz
| Maßnahme | Erläuterung |
|---|---|
| Chat-Verlauf aus | Bei ChatGPT wie Claude lässt sich in den Einstellungen die Trainingsnutzung der Gesprächsdaten stoppen |
| Enterprise-Version | Bei Unternehmenstarifen gibt es die Garantie, dass Daten nicht fürs Training verwendet werden |
| Anonymisierung | Vor der Eingabe Personennamen durch „Person A“, Firmennamen durch „Firma X“ ersetzen |
| Lokale Ausführung | Open-Source-Modelle mit Ollama u. Ä. auf dem eigenen PC ausführen |
💡 Ein Maßstab im Zweifel: Frag dich „Wäre es schlimm, wenn diese Information im Internet veröffentlicht würde?“ Lautet die Antwort „schlimm“, solltest du sie nicht in die KI eingeben. Beim Einsatz als Organisation ist es sicher, unternehmensweite KI-Nutzungsrichtlinien schriftlich festzuhalten.
Bias und Deepfakes
KI-Bias – die Verzerrung der Trainingsdaten zeigt sich in der Ausgabe
KI-Bias ist das Phänomen, dass sich in den Trainingsdaten der KI enthaltene gesellschaftliche Vorurteile unverändert in der Ausgabe niederschlagen. KI gibt nicht die „richtige Antwort“ aus, sondern neigt dazu, die „in den Trainingsdaten am häufigsten vorkommende Antwort“ auszugeben.
- Geschlechter-Bias – generiert man ein Bild von „Krankenpflegekraft“, sind es nur Frauen, bei „Ingenieur“ nur Männer
- Kultureller Bias – die Tendenz, mit Antworten in Richtung englischsprachiger/westlicher Wertvorstellungen zu verzerren
- Bestätigungs-Bias – die Meinung der Mehrheit übermäßig widerspiegeln, während die Sicht der Minderheit wegfällt
Gegenmaßnahme: Die KI-Antwort nicht blind übernehmen, sondern sich angewöhnen, „Denk auch aus einer anderen Perspektive“, „Nenne auch Gegenargumente“ anzuweisen. Bei wichtigen Entscheidungen wie Einstellung oder Personalbewertung ist es besonders wichtig, das KI-Urteil nicht zur einzigen Grundlage zu machen.
Deepfakes – nicht zu unterscheidende Falschinformationen
Die Technik der KI, realistische Bilder, Videos und Stimmen zu erzeugen, hat sich weiterentwickelt, und das Risiko von Deepfakes (mit KI erstellten gefälschten Medien) steigt rapide. Man schätzt, dass Deepfakes in sozialen Medien von 500.000 im Jahr 2023 auf 8 Millionen im Jahr 2025 sprunghaft zunahmen[3].
- Voice-Cloning-Betrug – Telefonbetrug, bei dem die Stimme von Familie oder Vorgesetzten mit KI nachgeahmt wird. Aus wenigen Sekunden Audiomaterial lässt sich ein Klon erstellen
- Fake-Videos – Meinungsmanipulation und Identitätsvortäuschung durch gefälschte Videos von Prominenten oder Politikern
- Fake-News – massenhafte Verbreitung plausibel klingender, KI-generierter Nachrichtenartikel
🛡️ So schützt du dich
- Bei dringenden Anrufen wie „Überweise sofort Geld“ die Identität über einen anderen Weg bestätigen
- Bei schockierenden Bildern/Videos aus sozialen Medien die Quelle prüfen
- Gegenüber Inhalten, die möglicherweise KI-generiert sind, stets eine gewisse Skepsis wahren
Mit der Verbreitung von KI-Agenten treten auch neue Angriffe auf, die solchen Missbrauch einschließen. Für die Unternehmensperspektive ist auch unsere Erläuterung zu Sicherheitsvorfällen bei KI-Agenten hilfreich.
Regulierung weltweit – die Regelsetzung hat begonnen
Um den Risiken der KI zu begegnen, schreitet die Gesetzgebung weltweit im Eiltempo voran.
| Region | Regulierung | Merkmal |
|---|---|---|
| EU | AI Act (2024 verabschiedet) | Risikobasierte Regulierung. Strenge Maßstäbe für Hochrisiko-KI (Einstellung, Medizin, Justiz). Stufenweise Anwendung ab 2025 |
| Japan | KI-Förderungsgesetz (Mai 2025 verabschiedet) | Ansatz „Innovation zuerst“. Betont eher Förderung als Regulierung, richtet aber zugleich Sicherheitsstandards ein |
| USA | Executive Order zur KI-Sicherheit | Ein umfassendes Bundesgesetz gibt es noch nicht. Regulierung schreitet je Bundesstaat voran |
Japan beschloss im Dezember 2025 im Kabinett den „KI-Grundplan“ und plant über fünf Jahre KI-bezogene Investitionen in Höhe von 1 Billion Yen[1]. Beachtung findet der „japanische“ Ansatz, die Regulierung nicht zu stark zu verschärfen, sondern Innovation zu fördern und dabei Sicherheitsstandards einzurichten.
Sicherheits-Checkliste für die KI-Nutzung
Wie sollte man nun, nachdem man die Risiken verstanden hat, konkret handeln? Wir haben Checklisten für die jeweilige Position von Einzelperson und Organisation zusammengestellt.
- Ausgaben nicht blind übernehmen – wichtige Infos unbedingt an Primärquellen prüfen
- Keine vertraulichen Infos eingeben – nach „Wäre es schlimm, wenn es öffentlich würde?“ entscheiden
- Zahlen und Eigennamen absichern – der Bereich, in dem Halluzinationen am häufigsten auftreten
- Auf Bias achten – bewusst darauf achten, ob die KI-Ausgabe verzerrt ist
- Urheberrecht prüfen – bei kommerzieller Nutzung unbedingt die Nutzungsbedingungen checken
- KI-Nutzung angemessen kennzeichnen – in Berichten und Artikeln die KI-Nutzung offenlegen
- Die letzte Verantwortung liegt bei dir – für das Ergebnis der Nutzung der KI-Ausgabe haftet der Nutzer
- KI-Nutzungsrichtlinie erstellen und kommunizieren – schriftlich festlegen, in welcher Tätigkeit was eingegeben werden darf
- Mitarbeiterschulungen durchführen – den richtigen Umgang mit KI und die Risiken vermitteln
- Prüfablauf für KI-Erzeugnisse – einen Mechanismus schaffen, bei dem ein Mensch vor der Veröffentlichung prüft
- Enterprise-Version prüfen – Unternehmenstarife mit umfangreichen Garantien zum Datenumgang erwägen
- Verfahren zur Vorfallbehandlung einrichten – den Ablauf für den Ernstfall vorab festlegen
- Die Risiken der KI sind nichts „Beängstigendes“, sondern etwas „Wissenswertes“. Wir haben die 5 großen Risiken im Überblick gezeigt.
- Die Basis gegen Halluzinationen ist das Absichern – 4 Schritte: Quelle fordern, Primärquelle, Vergleich mehrerer KIs, Such-KI nutzen.
- Die Basis des Datenschutzes ist der „Wäre es schlimm, wenn es öffentlich würde?“-Test. Vertrauliches nicht eingeben.
- Auch auf Urheberrecht, Bias und Deepfakes achten und nicht vergessen: die letzte Verantwortung liegt beim Nutzer.
- Vom EU AI Act bis zu Japans KI-Förderungsgesetz schreitet die Regulierung weltweit im Eiltempo voran.
Quellen
- "Japan adopts first AI basic plan." The Japan Times, December 23, 2025.
- Vectara. "Hallucination Leaderboard." GitHub, 2025. / Stanford RegLab. "Legal Hallucination Study." 2025.
- Deepstrike. "Deepfake Statistics 2025." deepstrike.io, 2025.
Weiterführende Links:
- EU AI Act Explorer – Volltext und Erläuterung des EU-KI-Regulierungsgesetzes
- KI-Politik des japanischen Ministeriums für Inneres und Kommunikation – Überblick über Japans KI-Politik
Im nächsten Kapitel erklären wir die neuesten Entwicklungen der KI – multimodale KI, KI-Agenten und die Trends 2025–2026.