Inhalt
- 1. April 2023 — Samsung verbot KI in 20 Tagen
- 2. Warum Sie jetzt Richtlinien brauchen — drei Druckfaktoren
- 3. Die Sieben-Punkte-Vorlage — Füllen Sie diese aus und Sie sind abgedeckt
- 4. Fünf Kategorien verbotener Eingabedaten — mit Beispielen
- 5. EU AI Act — was heute gilt und welche Fristen verschoben wurden
- 6. Fünf-Phasen-Implementierungs-Roadmap
- 7. Drei Fallstricke, die Sie vermeiden müssen
- Zusammenfassung
- FAQ
Im April 2023 leakte Samsung Electronics über ChatGPT dreimal in 20 Tagen vertrauliche Daten — Halbleiter-Quellcode, Fix-Code für fehlerhafte Anlagen und ein vollständiges internes Meeting-Protokoll — alles wurde in dem Moment, in dem die Mitarbeitenden es einfügten, an OpenAIs Server gesendet und war nicht mehr zurückzuholen. Samsung verbot daraufhin sofort ChatGPT, Bing und Bard unternehmensweit. JPMorgan, Goldman Sachs, Citi, Bank of America und Wells Fargo verhängten im gleichen Zeitraum ähnliche Verbote.
Drei Jahre später funktioniert „verbieten“ 2026 nicht mehr. Mitarbeitende nutzen ChatGPT auf ihren Telefonen, Entwickler schreiben mit Claude Code, das Marketing baut Folien in Gemini — verbieten Sie es, und Sie züchten nur Schatten-KI (nicht autorisierte Nutzung). Hinzu kommt: Am 2. August 2026 sind die übrigen Bestimmungen des EU AI Act allgemein anwendbar geworden, und die Kennzeichnungspflicht für KI-generierte Inhalte (Artikel 50) gilt seit demselben Tag (für die maschinenlesbare Markierung bei bereits vertriebenen Systemen läuft eine Übergangsfrist bis zum 2. Dezember 2026). Die Hochrisiko-Pflichten für Einstellung, Kreditvergabe und Ähnliches wurden auf den 2. Dezember 2027 verschoben — doch Aufschub bedeutet nicht, dass man sich nicht vorbereiten müsste. Verbieten geht nicht, ignorieren geht nicht. Der einzig verbleibende Weg ist: „einen Rahmen mit Richtlinien setzen und sichere Nutzung aktiv ermöglichen.“
Meine Haltung vorweg. „Eine dicke PDF-Richtlinie liest niemand“ klingt richtig, ist als Schlussfolgerung aber falsch. Der Sinn einer Richtlinie ist nicht, gelesen zu werden — sondern im Schadensfall die Verantwortlichkeit klarzustellen und das absolute Minimum an Nicht-Verhandelbarem in die Köpfe der Mitarbeitenden zu brennen. Dieser Artikel behandelt die sieben Pflichtpunkte, die fünf Kategorien verbotener Eingabedaten, die Frist des EU AI Act, die Fünf-Phasen-Implementierungs-Roadmap und die Fallstricke — alles mit dem praktischen Detailgrad, den Sie im Mai 2026 brauchen.
Verbieten oder ignorieren — beides verliert. Richtlinien sind der dritte Weg
— Leaks verhindern × Produktivität steigern × Compliance halten
Modell 2023: „unternehmensweites Verbot“ zur Risikovermeidung →
Modell 2026: „sicherer Betrieb innerhalb eines Rahmens“ für Leak-Verhinderung + Produktivität + Compliance, alles drei.
Sie brauchen keine dicke PDF. Zwei A4-Seiten plus eine freigegebene Liste reichen.
1. April 2023 — Samsung verbot KI in 20 Tagen
Der Ablauf ist einfach. Im März genehmigte Samsungs Halbleiterabteilung die interne ChatGPT-Nutzung. In den folgenden 20 Apriltagen passierten drei vertrauliche Leaks in Folge. ① Mitarbeiter A fügte den vollständigen Quellcode einer fehlerhaften Halbleiter-Datenbank in ChatGPT ein und bat um einen Fix. ② Mitarbeiter B tat dasselbe mit Fix-Code für defekte Fertigungsanlagen. ③ Mitarbeiter C fügte ein vollständiges internes Meeting-Protokoll ein und bat um ein Protokoll. Alle drei erreichten in diesem Moment OpenAIs Server und wurden möglicherweise als Trainingsdaten verwendet.
Samsung blockierte sofort ChatGPT, Bing und Bard auf allen unternehmenseigenen Geräten und auf privaten Geräten, sobald diese mit dem Unternehmensnetzwerk verbunden waren. Etwa zur gleichen Zeit verhängten große Finanzinstitute — JPMorgan, Goldman Sachs, Citi, Bank of America, Wells Fargo, Deutsche Bank — ähnliche Verbote. Das war der Moment, in dem der Trend „Unternehmen verbieten KI“ Fahrt aufnahm.
Stand 2026 verbietet Samsung ChatGPT weiterhin und hat ein eigenes internes LLM namens „Samsung Gauss“ gebaut. Das ist ein legitimer Weg, aber der Investitionsmaßstab ist zu groß, als dass mittelständische Unternehmen und kleinere ihn kopieren könnten. Für alle anderen ist der einzige Weg, „kommerzielle KI-Dienste sicher innerhalb einer Richtlinie zu nutzen.“
2. Warum Sie jetzt Richtlinien brauchen — drei Druckfaktoren
Von den dreien ist Schatten-KI meiner Ansicht nach tatsächlich am gravierendsten. Samsung hatte fast Glück, dass „der Leak auf einem vom Unternehmen genehmigten Kanal geschah und damit sichtbar war.“ In den meisten Unternehmen registriert es niemand, wenn eine Mitarbeiterin Meeting-Notizen mit Kundennamen auf ihrem Telefon in ChatGPT einfügt. „Es nicht sehen zu können“ ist die schlimmste Art von Risiko, und der einzige Weg, das zu beheben, ist, einen offiziellen Kanal zu bauen, den das Unternehmen beobachten kann — was Richtlinien bedeutet.
3. Die Sieben-Punkte-Vorlage — Füllen Sie diese aus und Sie sind abgedeckt
Keine dicke PDF — eine Sieben-Punkte-Vorlage, die auf zwei A4-Seiten passt. Das Ziel ist ein Detailgrad, mit dem Sie heute beginnen und bis zum Wochenende verteilen können.
Von diesen sind „② verbotene Daten“ und „⑤ Vorfallsmeldung“ die beiden Punkte, die darüber entscheiden, ob die Richtlinie tatsächlich funktioniert. ①③④⑥⑦ sind Dinge, die jede vernünftige Verfasserin ausfüllen kann. Aber „was Sie nicht eingeben dürfen“ mit konkreten Beispielen zu schreiben und schriftlich festzuhalten „wir werden versehentliche Eingaben nicht bestrafen“ — das erfordert Entschlossenheit. Wählen Sie eine Strafkultur, vertuschen die Mitarbeitenden Dinge, und Sie können Leaks dann überhaupt nicht mehr sehen.
4. Fünf Kategorien verbotener Eingabedaten — mit Beispielen
„Keine vertraulichen Informationen eingeben“ ist zu vage, um zu greifen. Schreiben Sie fünf Kategorien, jede mit Beispielen.
| Kategorie | Beispiele (nicht eingeben) | Alternative |
|---|---|---|
| ① PII | Namen, Adressen, Telefonnummern, E-Mails, Personalnummern, Ausweisnummern | Vor der Eingabe durch „Kunde A“, „Nutzer B“ ersetzen |
| ② Vertrauliche Informationen | Unveröffentlichte Finanzdaten, Strategie, M&A, HR-Daten | Die Zahlen abstrahieren („Umsatz um XX % YoY gestiegen“ usw.) |
| ③ NDA-gebunden | Kundendaten unter NDA, API-Schlüssel, SSO-Zugangsdaten | Überhaupt nicht eingeben. Internes LLM oder Business-API mit No-train-Vertrag verwenden |
| ④ Geistiges Eigentum | Unveröffentlichter Quellcode, Patent-Designs vor Anmeldung, proprietäre Algorithmen | Samsungs Lehre: relevante Teile abstrahieren oder auf internes LLM beschränken |
| ⑤ Reguliert | Identifizierbare medizinische Daten, Details zu Finanztransaktionen, unveröffentlichte Forschungsdaten | Branchenspezifische on-prem KI verwenden (HIPAA/GxP-konform) |
Das entscheidende Detail ist, dass Sie „Alternativen“ immer mit den Verboten paaren. Schreiben Sie nur „nicht eingeben“, entscheiden Mitarbeitende „ich kann meine Arbeit nicht mit KI erledigen“ und nutzen sie dann im Verborgenen. Bieten Sie eine Alternative wie „ersetzen Sie persönliche Namen durch ‚Kunde A‘ und Sie dürfen es eingeben“, dann nutzen sie den sanktionierten Pfad. Das ist der praktische Hebel, um Schatten-KI zurückzudrängen.
5. EU AI Act — was heute gilt und welche Fristen verschoben wurden
Der EU AI Act reguliert KI-Systeme in vier Risikostufen. Am 2. August 2026 sind seine übrigen Bestimmungen allgemein anwendbar geworden — aber ⚠️ jede Erläuterung, die Ihnen sagt, an diesem Tag seien die Hochrisiko-Regeln vollständig in Kraft getreten, ist veraltet. Durch die Änderungen des Digital Omnibus wurden die Hochrisiko-Pflichten verschoben: auf den 2. Dezember 2027 für Anhang III und auf den 2. August 2028 für Anhang I (KI, die in Medizinprodukte, Maschinen, Fahrzeuge und Ähnliches eingebettet ist). Was gerade tatsächlich greift, sind die Transparenzpflichten und die Regeln für KI-Modelle mit allgemeinem Verwendungszweck (GPAI), und die nächste Frist ist der 2. Dezember 2026.
| Risikostufe | Beispiele | Pflichten | Strafe |
|---|---|---|---|
| Verboten | Social Scoring, unterschwellige Manipulation, Emotionserkennung am Arbeitsplatz | Nutzung verboten | Bis zu 35 Mio. EUR oder 7 % des Umsatzes |
| Hochrisiko | Einstellungsentscheidungen, Kreditscoring, Bildungsbewertung, medizinische Diagnose, gerichtliche Entscheidungen | Technische Dokumentation, Risikomanagement, menschliche Aufsicht, Log-Aufbewahrung (Art. 9/11/12) | Bis zu 15 Mio. EUR oder 3 % des Umsatzes |
| Begrenztes Risiko | Chatbots, Deepfakes | Transparenzpflicht (KI-Erzeugung offenlegen) | Bis zu 15 Mio. EUR oder 3 % des Umsatzes |
| Minimales Risiko | Spam-Filter, KI-NPCs in Spielen | Keine (empfohlene Best Practices) | — |
Wann welche Pflicht greift — die vier Termine
Noch vor den Risikostufen wollen Sie vermutlich wissen, wann eine Pflicht Ihr Unternehmen tatsächlich trifft. Einige dieser Termine wurden gegenüber dem ursprünglichen Zeitplan nach hinten verschoben, deshalb lohnt es sich, genau diesen Punkt korrekt zu haben.
Die übrigen Bestimmungen wurden allgemein anwendbar. Die Durchsetzung der Transparenzpflichten und der GPAI-Regeln hat begonnen.
Die Übergangsfrist für die maschinenlesbare Markierung (Artikel 50 Absatz 2) bei generativen KI-Systemen, die vor dem 2. August in Verkehr gebracht wurden, endet; zudem greifen die Verbote für KI, die nicht einvernehmliche sexuelle Deepfakes oder Darstellungen sexuellen Kindesmissbrauchs erzeugt. Hier müssen Sie jetzt handeln.
Hochrisiko nach Anhang III (Einstellung, Kreditscoring, Bildung, Strafverfolgung und Ähnliches). Ursprünglich der 2. August 2026.
Eingebettetes Hochrisiko nach Anhang I (Medizinprodukte, Maschinen, Fahrzeuge und Ähnliches). Ursprünglich der 2. August 2027.
Quellen: Zeitplan zur Umsetzung des EU AI Act / AI Act Service Desk der Europäischen Kommission
Zu beachten: Die seit dem 2. August 2026 geltende „Kennzeichnungspflicht für KI-generierte Inhalte“ (Artikel 50) greift in der Veröffentlichungspraxis früher als in der internen Richtlinie. Wer welche Pflicht trägt — für Anbieter und Betreiber gilt Unterschiedliches — und ob eine menschliche Überprüfung davon befreit, arbeitet der Beitrag Artikel 50 in der Praxis gelesen Punkt für Punkt auf.
Häufiges Missverständnis: Auch ohne Niederlassung in der EU sind Sie im Anwendungsbereich, wenn Sie KI-Systeme auf dem EU-Markt in Verkehr bringen oder die Ausgabe Ihres KI-Systems in der EU verwendet wird (Artikel 2). Maßstab ist nicht, ob Sie Daten von EU-Bürgerinnen und -Bürgern verarbeiten (das ist Sache der DSGVO). Ein japanisches Unternehmen, das europäischen Kundinnen und Kunden KI-gestützte Dienste anbietet oder KI-Ausgaben in Europa verwendet, muss den EU AI Act einhalten. Andererseits ist „eine Mitarbeiterin, die ChatGPT zur Übersetzung nutzt“ eindeutig minimales Risiko und hat keine besonderen Pflichten. „Automatisierte Einstellungsentscheidungen anhand von Bewerbungsunterlagen“ oder „automatische Entscheidung über Kreditfreigaben mit KI“ ist unzweifelhaft Hochrisiko, aber technische Dokumentation, menschliche Aufsicht und Log-Aufbewahrung werden erst ab dem 2. Dezember 2027 zu rechtlichen Pflichten (Anhang III). Das heißt nicht, dass heute nichts zu tun wäre — falls Sie solche Tätigkeiten haben, ergänzen Sie die interne Richtlinie: „jede Hochrisiko-Nutzung erfordert vor dem Einsatz eine rechtliche Freigabe.“
6. Fünf-Phasen-Implementierungs-Roadmap
Mit dem Entwurf der Richtlinie ist es nicht getan. Eine Roadmap, die in einem mittelständischen Unternehmen (bis 200 Mitarbeitende) 2–3 Monate und in einem Großunternehmen rund 6 Monate dauert.
Darin steht PHASE 1 (die Befragung) unbedingt am Anfang. Bauen Sie eine Richtlinie auf der Annahme „verbieten und niemand nutzt es“, erhalten Sie am Ende etwas, das von der Realität abgekoppelt ist. Führen Sie eine anonyme Befragung mit der Frage „welche KI-Dienste haben Sie im letzten Monat genutzt? welche Datenarten haben Sie für die Arbeit eingegeben?“ durch, und Schatten-KI wird sich als weit verbreiteter erweisen, als Sie erwartet haben. Die Realität zu kennen, bevor man Regeln schreibt, ist die richtige Reihenfolge.
7. Drei Fallstricke, die Sie vermeiden müssen
Fallstrick ①: Unternehmensweites Verbot
Für jedes Unternehmen, das nicht Samsung ist, führt das fast immer zu einer Explosion der Schatten-KI. Mitarbeitende nutzen ChatGPT Personal auf ihren Telefonen, das Unternehmen hat keine Sicht, und wenn ein Leak passiert, meldet ihn niemand. Die wahren Kosten eines Verbots sind „der Verlust der Sichtbarkeit.“ Samsung konnte Samsung Gauss intern bauen, weil sie die Schlagkraft eines führenden Halbleiterunternehmens hatten. Für den Mittelstand und kleiner ist „einen sanktionierten Kanal über Richtlinien bereitstellen“ die praktische Antwort.
Fallstrick ②: Design auf Bestrafung ausrichten
„Jede Mitarbeiterin, die vertrauliche Daten eingibt, wird diszipliniert“ bedeutet, dass jede Mitarbeiterin, die versehentlich vertrauliche Daten eingibt, es vertuscht. Der Leak passiert, das Unternehmen weiß nichts davon, Kundendaten landen draußen, die Kundin meldet es, und Ihr Ruf bricht zusammen — der Worst-Case-Pfad. Schriftlich festhalten: „Richtlinienverstöße werden bei Meldung nicht bestraft.“ Machen Sie dann „nur die Unterlassung der Meldung ist Disziplinargrund“, und Vorfallsmeldung beginnt — seltsamerweise — zu funktionieren.
Fallstrick ③: Einmal schreiben und liegen lassen
Die KI-Branche ändert ihre Annahmen alle sechs Monate. Eine Richtlinie von 2024, die „ChatGPT-Nutzung verboten“ sagt, hat Entwickler, die Claude Code laufen lassen und sich zurechtlegen „das ist kein ChatGPT, also ist es in Ordnung.“ Namentlich genannte Produkte und Modelle müssen alle 6 bis 12 Monate überprüft werden. Ob ein neuer Dienst (Cursor / Perplexity / Notion AI) freigegeben oder verboten ist, muss explizit sein, damit Mitarbeitende nicht raten. Einschließlich des Wayfair-Falls aus dem vorherigen Artikel (077), behandeln Sie „die Richtlinie als lebendes Dokument.“
Zusammenfassung
Drei Jahre nach den Samsung-Leaks von 2023 hat die unternehmerische KI-Nutzung das binäre „verbieten oder erlauben“ verlassen und ist in die Umsetzungsphase „wie man einen Rahmen setzt und innerhalb dieses Rahmens arbeitet“ eingetreten. Eingekesselt von drei Seiten durch Rechtsrisiko (EU AI Act), Leak-Risiko (Samsungs Lehre) und Wettbewerbsrisiko (30–50 % Produktivitätslücke), gibt es keine Zeit, eine dicke PDF zu schreiben, und „überhaupt keine Richtlinie“ funktioniert auch nicht. Die Sieben-Punkte-Vorlage plus die Fünf-Phasen-Roadmap in diesem Artikel ermöglichen es einem mittelständischen Unternehmen, in 2–3 Monaten zu deployen. „Maximaler sicherer Betrieb mit dem minimalen Rahmen“ — das ist die praktische Antwort auf KI-Governance für 2026. Und da die Sperrung eines Arbeitskontos wegen eines Verstoßes gegen die Nutzungsbedingungen ein ebenso realer Schaden ist wie ein Leak, sollte zusammen mit der Richtlinie intern geteilt werden, wie man Konto-Sperren vermeidet.
FAQ
Sollten wir KI im Unternehmen verbieten?
Als Standard nein, Sie sollten es nicht verbieten. Sofern Sie kein Unternehmen vom Samsung-Format sind, das sein eigenes internes LLM bauen kann, vergrößert ein Verbot nur das Volumen der Schatten-KI (Mitarbeitende, die es auf eigene Faust nutzen), und das Leak-Risiko steigt dadurch. Einen Rahmen mit einer Richtlinie zu setzen und Business-Tarife (Team/Enterprise) über einen Unternehmensvertrag bereitzustellen, ist die praktische Antwort.
Gilt der EU AI Act für japanische Unternehmen?
Ja, auch für Unternehmen außerhalb der EU, wenn sie KI-Systeme auf dem EU-Markt in Verkehr bringen oder die Ausgabe ihrer KI in der EU verwendet wird (Artikel 2); die Verarbeitung von Daten von EU-Bürgerinnen und -Bürgern ist nicht der Maßstab. Arbeit, die vollständig in Japan stattfindet (etwa Übersetzungen nur für internes Personal), ist minimales Risiko und bringt kaum Pflichten mit sich. Wenn Sie Kreditfreigaben oder Einstellungsentscheidungen für europäische Kundinnen und Kunden per KI ausführen, werden technische Dokumentation, menschliche Aufsicht und Log-Aufbewahrung ab dem 2. Dezember 2027 zu rechtlichen Pflichten (Anhang III), für KI, die in Geräte wie Medizinprodukte eingebettet ist, ab dem 2. August 2028 (Anhang I). Ursprünglich war der 2. August 2026 vorgesehen, doch die Änderungen des Digital Omnibus haben den Termin nach hinten verschoben. Bereits gilt die Pflicht, KI-generierte Inhalte als solche offenzulegen (Artikel 50) — seit dem 2. August 2026; für die maschinenlesbare Markierung bei Systemen, die davor in Verkehr gebracht wurden, läuft eine Übergangsfrist bis zum 2. Dezember 2026. Die Strafen reichen bis zu 35 Mio. EUR oder 7 % des weltweiten Umsatzes für verbotene Praktiken und bis zu 15 Mio. EUR oder 3 % für Verstöße gegen die Hochrisiko- und Transparenzpflichten.
Wie viele Seiten sollte die Richtlinie umfassen?
Zwei A4-Seiten für den Haupttext plus einige Seiten Anhänge (freigegebene Liste, Beispiele für verbotene Daten) funktioniert gut. „Niemand liest eine dicke PDF“ stimmt, daher den Haupttext auf eine Zusammenfassung beschränken und Details in Anhänge auslagern, um die Last für die Lesenden zu reduzieren. Was zählt, ist nicht die Seitenzahl — sondern dass „② verbotene Daten“ und „⑤ Vorfallsmeldung“ konkret und psychologisch sicher sind.
Was ist der Unterschied zwischen persönlichen und Business-Tarifen?
Business-Tarife (ChatGPT Team / Claude Enterprise / Microsoft Copilot Business und so weiter) sehen vertraglich standardmäßig vor, Ihre Eingabedaten nicht für das Modelltraining zu verwenden (No-train). Persönliche Tarife (ChatGPT Plus und Ähnliches) können zum Training verwendet werden. Halten Sie in der Richtlinie fest „berufliche Nutzung ist auf Business-Tarife beschränkt“, und Sie verringern das Leak-Risiko à la Samsung deutlich. Die Preisgestaltung liegt grob bei 20–60 USD pro Nutzer und Monat.
Wirklich — versehentliche Eingaben nicht zu bestrafen ist in Ordnung?
Ja, das ist der Kern. Bestrafen Sie es, vertuschen es die Mitarbeitenden, das Unternehmen verliert die Sicht, und dieser unsichtbare Leak löst die schlimmsten Folgen aus (Meldung der Kundin, Social-Media-Leaks, Einschaltung der Aufsicht). Gestalten Sie es als „bei Meldung keine Strafe; Vertuschung wird diszipliniert“, und Vorfallsmeldungen nehmen — seltsamerweise — zu, und Sie können frühzeitig eingreifen. Dieselbe Logik wie die Sicherheitskultur in der Luftfahrt.
Braucht ein kleines Startup ebenfalls eine?
Ja. Kleine Unternehmen sollten es sogar früher tun — von Anfang an in die Kultur eingebaut, hält es besser, als wenn es später aufgesetzt wird. Bei 10–30 Mitarbeitenden können Sie die Sieben-Punkte-Vorlage aus diesem Artikel unverändert übernehmen und den Haupttext an einem Tag entwerfen, den Rollout in einer Woche abschließen. „KI-Nutzungsrichtlinie vorhanden“ wird zudem zunehmend zu einem grundlegenden Checklisten-Punkt bei der Due Diligence, wenn Sie mit Investoren oder Großkundinnen Verträge abschließen (insbesondere EU-Kundinnen).