Braucht ein mit KI geschriebener Artikel den Hinweis „KI-generiert“? EU AI Act Artikel 50 in der Praxis gelesen

„Einen mit KI geschriebenen Artikel zu veröffentlichen, ohne ihn als KI-generiert zu kennzeichnen, ist offenbar illegal“ — seit die übrigen Bestimmungen des EU AI Act am 2. August 2026 allgemein anwendbar geworden sind, taucht dieser Satz überall auf. Und wenn man hört, dass das Bußgeld 15 Millionen Euro oder 3 % des weltweiten Umsatzes erreichen kann, lässt sich das nur schwer abtun.

Zuerst das Ergebnis. Für die meisten unabhängigen Autorinnen und Autoren und für Unternehmensblogs entsteht keine Kennzeichnungspflicht. Der Verordnungstext enthält eine ausdrückliche Ausnahme: Sie gilt nicht, wenn die Inhalte einer menschlichen Überprüfung unterzogen wurden und jemand die redaktionelle Verantwortung für die Veröffentlichung trägt (Artikel 50 Absatz 4). Ebenso deutlich steht dort aber, dass ein flüchtiger Blick für diese Ausnahme nicht ausreicht.

Dieser Artikel sortiert nach Rolle, was Sie tatsächlich tun müssen. Alle Zahlen und alle Auslegungen beschränken sich auf das, was sich am Text des EU AI Act selbst und am Praxisleitfaden des AI Office der Europäischen Kommission überprüfen ließ.

1. Zuerst die Rolle klären: Anbieter und Betreiber haben verschiedene Pflichten

Das ist der am häufigsten missverstandene Teil der Vorschrift. Für ein und denselben KI-generierten Inhalt legt Artikel 50 dem Anbieter und dem Betreiber völlig unterschiedliche Pflichten auf.

Das heißt: Als Privatperson haben Sie im Grunde keinen Anlass, sich über Wasserzeichen für Ihre KI-Ausgaben den Kopf zu zerbrechen. Die maschinenlesbare Kennzeichnung ist eine Pflicht der Anbieter, nicht Ihre Aufgabe. Was Sie betrifft, ist die Offenlegung.

Wer als private Bloggerin oder privater Blogger mit ChatGPT schreibt und veröffentlicht, ist Betreiber. Lesen Sie den Rest dieses Artikels auf dieser Grundlage.

2. Braucht ein mit KI geschriebener Text ein Label?

Die zweite Hälfte von Artikel 50 Absatz 4 ist die Vorschrift zum Text. Eine Offenlegung ist nur dann verlangt, wenn die beiden folgenden Punkte zutreffen.

Entscheidend ist im zweiten Punkt das Wort Zweck. Der Praxisleitfaden erklärt, dass nicht das Thema selbst der Maßstab ist, sondern der Zweck der veröffentlichenden Seite. Zwei Beiträge zum selben Klimathema können unterschiedlich behandelt werden: ein Artikel, der die Öffentlichkeit über die Fakten informieren soll, gegenüber einem Text, der das eigene Produkt bewirbt.

Und selbst wenn der zweite Punkt zutrifft, beginnt hier erst der eigentliche Kern.

3. Menschliche Überprüfung befreit von der Pflicht — sie muss aber substanziell sein

Der Verordnungstext enthält eine ausdrückliche Ausnahme. Die Offenlegungspflicht gilt nicht, wenn die Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Daran hängt allerdings eine Bedingung. Der Praxisleitfaden hält ausdrücklich fest, dass die Überprüfung substanziell sein muss und sich nicht auf oberflächliche Aspekte oder eine bloß formale Freigabe beschränken darf.

Die Frage hat sich leise verschoben: weg davon, ob Sie ein Label anbringen, hin dazu, wie Sie die Sache herstellen. Wer einen Ablauf mit substanzieller Überprüfung betreibt, ist ausgenommen; wer keinen hat, nicht. Es sieht aus wie ein Kennzeichnungsproblem und entpuppt sich als Frage des redaktionellen Prozesses — das ist für mich die praktischste Konsequenz aus dieser Vorschrift.

4. Deepfakes und die Ausnahme für Kunst und Satire

Unabhängig vom Text tragen Deepfakes eine eigene Offenlegungspflicht. Der Verordnungstext behandelt einen Deepfake als Inhalt, der fälschlich echt oder wahrheitsgetreu erscheint, und verlangt vom Betreiber, der ihn erzeugt oder verändert und dann veröffentlicht, genau das offenzulegen. Wer mit Bildgenerierung oder Videogenerierung reale Personen oder reale Ereignisse darstellt, ist genau in diesem Fall.

Es gibt allerdings eine Ausnahme. Ist das Werk offensichtlich künstlerisch, kreativ, satirisch oder fiktional, so wird die Pflicht abgeschwächt. Verlangt wird dann keine vollständige Offenlegung, sondern der Hinweis auf das Vorhandensein erzeugter oder veränderter Inhalte in einer angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Anders gesagt: Sie müssen dem Vorspann keine bildschirmfüllende Tafel „Dieser Film enthält KI-generiertes Material“ überlagern. Ein Hinweis im Abspann oder in den Werkangaben genügt, und die Regelung ist bewusst so gebaut, dass sie kreatives Arbeiten nicht hemmt.
Umgekehrt gelesen ist der Satz „es ist Kunst, also braucht es nichts“ aber falsch. Abgeschwächt wird die Art und Weise der Offenlegung, nicht die Frage, ob sie überhaupt stattfindet.

5. Wenn Sie einen Chatbot betreiben

Steht auf Ihrer Website ein KI-Chatbot, kommt Artikel 50 Absatz 1 ins Spiel. Ein KI-System, das direkt mit Menschen interagiert, muss ihnen zu erkennen geben, dass sie es mit einer KI zu tun haben — und das ist eine Pflicht des Anbieters.

Der Verordnungstext ergänzt allerdings, dass dies entbehrlich ist, wenn es für eine angemessen informierte Person offensichtlich ist. Der Gedanke dahinter: Heißt das Ding „KI-Assistent“ und sitzt es in einer Oberfläche, die klar erkennbar ein Chatbot ist, wirkt genau das als Hinweis. Es muss nicht jedes Mal aufs Neue „Ich bin eine KI“ sagen.

Wer generative KI in den eigenen Dienst einbettet und ihn anderen anbietet, steht auf der Seite des Anbieters. Beim Entwurf interner Richtlinien erleichtert es die Trennung der Pflichten erheblich, vorab zu klären, ob das eigene Unternehmen Anbieter oder Betreiber ist.

6. Wessen Aufgabe ist die maschinenlesbare Kennzeichnung? C2PA und die Fristen

Artikel 50 Absatz 2 ist derzeit der technisch beweglichste Teil. Anbieter von Systemen, die synthetische Audioinhalte, Bilder, Videos oder Texte erzeugen, müssen die Ausgabe in einem maschinenlesbaren Format kennzeichnen und als künstlich erzeugt oder verändert erkennbar machen.

Der Verordnungstext nennt keine bestimmte Technologie, verlangt aber Lösungen, die wirksam, interoperabel, robust und zuverlässig sind, soweit dies technisch durchführbar ist. Darüber hinaus hat der am 10. Juni 2026 vom AI Office der Europäischen Kommission veröffentlichte Verhaltenskodex zur Transparenz KI-generierter Inhalte vorgezeichnet, worauf die Umsetzung zielen sollte.

Der Punkt ist: Für sich genommen reicht keines dieser Verfahren. Der Verhaltenskodex hält fest, dass keine einzelne Technik allein genügt, und verlangt, sie zu schichten. Metadaten sind mit einem Screenshot oder einer Neukodierung schnell verschwunden, also kombiniert man sie mit einem Wasserzeichen — das ist die Begründung.

Daraus folgen zwei Fristen. Generative KI-Systeme, die bereits vor dem 2. August 2026 auf dem Markt waren, müssen die Anforderungen an die maschinenlesbare Kennzeichnung bis zum 2. Dezember 2026 erfüllen. Und interoperable Verfahren zur Erkennung von Wasserzeichen müssen bis zum 2. Februar 2027 bereitstehen.

7. Die Fristen der Reihe nach: Die nächste ist der 2. Dezember 2026

⚠️ Jede Erläuterung, die Ihnen sagt, die Hochrisiko-Regeln seien am 2. August 2026 vollständig in Kraft getreten, ist veraltet. Die Änderung durch den Digital Omnibus hat die Hochrisiko-Pflichten auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Anhang I) verschoben. Ursprünglich vorgesehen waren der 2. August 2026 und der 2. August 2027.

8. Eine Checkliste für jede Rolle

Zum Schluss ein Wort zur Reichweite dieses Artikels. Was hier steht, lässt sich aus dem Text des EU AI Act und dem Verhaltenskodex der Europäischen Kommission herauslesen, und es ist keine Rechtsberatung zu einem Einzelfall. Wo die Grenze bei Angelegenheiten von öffentlichem Interesse genau verläuft und wie viel Überprüfung als substanziell gilt, wird sich letztlich erst in der Praxis und in der Rechtsprechung festigen. Sind Hochrisiko-Tätigkeiten wie Einstellung, Kreditscoring oder Gesundheitsversorgung im Spiel, lassen Sie es von Ihrer Rechtsabteilung prüfen.

FAQ

Q1. Ist es illegal, einen mit ChatGPT geschriebenen Blogbeitrag ohne den Hinweis „KI-generiert“ zu veröffentlichen?

In den meisten Fällen braucht es kein Label. Die Offenlegungspflicht aus Artikel 50 Absatz 4 richtet sich auf KI-generierte Texte, die zu dem Zweck veröffentlicht werden, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, und selbst dann gilt sie nicht, wenn die Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und jemand die redaktionelle Verantwortung trägt. Wer den KI-Entwurf liest, überprüft, korrigiert und dann veröffentlicht, fällt unter diese Ausnahme. Die Überprüfung muss allerdings substanziell sein: Der Praxisleitfaden hält ausdrücklich fest, dass Tippfehlerkorrekturen oder eine bloß formale Freigabe nicht genügen.

Q2. Betrifft mich das auch, wenn ich außerhalb der EU sitze?

Sie können erfasst sein, wenn Sie Dienste innerhalb der EU anbieten oder für ein Publikum in der EU veröffentlichen. Veröffentlichungen, die vollständig im eigenen Land außerhalb der EU bleiben, sind nicht unmittelbar erfasst, doch der Gedanke, KI-Ausgaben zu kennzeichnen, breitet sich über Rechtsordnungen hinweg aus. Den Ablauf schon jetzt aufzubauen, lohnt sich also unabhängig davon.

Q3. Muss ich KI-generierte Bilder selbst mit einem Wasserzeichen versehen?

Als privater Betreiber in aller Regel nicht. Die maschinenlesbare Kennzeichnung ist die Pflicht, die Artikel 50 Absatz 2 den Anbietern auferlegt, also Arbeit für Häuser wie OpenAI und Google. Wenn Sie allerdings Bilder oder Videos veröffentlichen, die reale Personen oder reale Ereignisse echt wirken lassen, ist das ein Deepfake, und dafür tragen Sie als Betreiber eine eigene Offenlegungspflicht.

Q4. Wie hoch ist das Bußgeld?

Ein Verstoß gegen die Transparenzpflichten kostet bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Das wird leicht mit der Zahl von bis zu 35 Millionen Euro oder 7 % verwechselt, doch die gilt für verbotene Praktiken wie Social Scoring, die auf einer anderen Stufe stehen.

Q5. Erfüllt die Einführung von C2PA die Pflicht für sich allein?

C2PA Content Credentials ist der Mechanismus, den der Verhaltenskodex der Europäischen Kommission als Beispiel nennt, doch der Kodex hält fest, dass keine einzelne Technik allein genügt, und verlangt einen geschichteten Ansatz, der Herkunftsmetadaten mit einem nicht wahrnehmbaren Wasserzeichen verbindet. Der Grund: Metadaten gehen bei einem Screenshot oder einer Neukodierung verloren und erfüllen die Anforderung an die Robustheit für sich genommen nur schwer.

Q6. Was gilt, wenn ein Film oder ein Spiel KI-generiertes Material verwendet?

Bei Werken, die offensichtlich künstlerisch, kreativ, satirisch oder fiktional sind, wird die Pflicht abgeschwächt. Verlangt wird keine vollständige Offenlegung, sondern der Hinweis auf das Vorhandensein erzeugter oder veränderter Inhalte in einer angemessenen Weise, die die Darstellung oder den Genuss des Werks nicht beeinträchtigt. Ein Vermerk im Abspann oder in den Werkangaben passt dazu. Beachten Sie, dass hier die Art der Offenlegung milder ausfällt und nicht etwa von ihr befreit wird.

Q7. Was muss ich bis wann tun?

Die Offenlegungspflichten für Betreiber gelten bereits seit dem 2. August 2026. Auf der Anbieterseite gilt für die maschinenlesbare Kennzeichnung der 2. Dezember 2026, sofern das System vor dem 2. August 2026 auf dem Markt war, und für die interoperable Erkennung von Wasserzeichen der 2. Februar 2027. Die Pflichten für Hochrisiko-Systeme fallen auf den 2. Dezember 2027 (Anhang III) und den 2. August 2028 (Anhang I) und wurden gegenüber den ursprünglich gesetzten Terminen nach hinten verschoben.

Quellen

• EU AI Act Artikel 50 (Verordnungstext)
  Die vier Transparenzpflichten, die Trennung zwischen Anbietern und Betreibern, die Anforderungen an die maschinenlesbare Kennzeichnung sowie die Ausnahmen für Strafverfolgung, künstlerische Werke und redaktionelle Verantwortung
• Praxisleitfaden zu Artikel 50
  Warum es bei Angelegenheiten von öffentlichem Interesse auf den Zweck der Veröffentlichung und nicht auf das Thema ankommt, warum die Überprüfung substanziell sein muss und was die abgeschwächte Offenlegung für künstlerische Werke bedeutet
• Zeitplan zur Umsetzung des EU AI Act
  Die Termine 2. Dezember 2026, 2. Februar 2027, 2. Dezember 2027 und 2. August 2028
• AI Act Service Desk der Europäischen Kommission
  Was am 2. August 2026 anwendbar wurde und wie die Übergangsfristen gedacht sind

Verwandte Artikel

• Wie man unternehmensweite KI-Nutzungsrichtlinien schreibt — der EU AI Act aus Sicht der internen Regelwerke
• Einstieg in die KI-Bildgenerierung — das Feld, in dem die Offenlegungspflicht für Deepfakes greift
• Einstieg in die KI-Videogenerierung — dasselbe, und bei realen Personen ist besondere Vorsicht geboten