KI-Antworten können inhaltlich falsch sein, obwohl sie flüssig klingen. Ein Bild oder einen Text erstellen zu können und ihn veröffentlichen zu dürfen, sind außerdem zwei verschiedene Dinge. Dieses Kapitel zeigt anhand konkreter Beispiele und Schritte, was Sie vor der Eingabe, vor der Verwendung einer Antwort und vor der Veröffentlichung prüfen sollten.
Ziel dieses Kapitels
Fehler in KI-Antworten erkennen und selbst prüfen können, ob Quellen, Rechte und die Erlaubnis zur Weitergabe in Ordnung sind. Außerdem lernen Sie, wann Sie das Eingeben von Informationen oder das Veröffentlichen vorerst anhalten sollten.
Fünf Prüfpunkte bei der Nutzung von KI
Hier sind fünf Punkte, die Sie beim Schreiben oder Recherchieren mit KI im Blick behalten sollten. Wie vorsichtig Sie sein sollten, hängt von der jeweiligen Situation ab.
Halluzinationen: Auch natürlich klingende Antworten anhand der Originalquellen prüfen
Halluzination bedeutet, dass eine KI plausibel klingende, aber falsche Antworten gibt. Sie kann Inhalte schreiben, die dem bereitgestellten Material widersprechen, und für den Fehler sogar einen überzeugend wirkenden Grund oder eine Quelle angeben.[2]
Text erzeugen und Fakten prüfen sind getrennte Vorgänge
Sprachmodelle, die Text erzeugen, sagen Token (Einheiten wie Zeichen oder Wortteile) voraus, die an den Kontext anschließen. Oft liefern sie richtige Inhalte, doch dass ein Text flüssig klingt, und dass er sachlich stimmt, sind zwei verschiedene Dinge. Auch bei Diensten, die Suche oder Berechnung kombinieren, müssen Sie selbst prüfen, ob das Material, auf das sich die KI bezieht, und die Bedingungen einer Berechnung stimmen.[2]
Ursprüngliche Notiz
Der Besprechungsraum für die interne Lernrunde ist nur vorläufig reserviert. Termin und Referent stehen noch nicht fest.
Beispiel für eine fehlerhafte Ankündigung
„Die Lernrunde findet am 12. November statt. Referent ist Tanaka aus der Vertriebsabteilung, der Besprechungsraum steht fest.“
Die Festlegung von Datum, Referent und Veranstaltungsort steht nicht in der Notiz.
Korrektur gemäß der Notiz
„Wir planen eine interne Lernrunde. Termin und Referent stehen noch nicht fest. Der Besprechungsraum ist vorläufig reserviert; Details teilen wir mit, sobald sie feststehen.“
Während der Text die Form einer Ankündigung annimmt, werden Dinge ergänzt, die noch nicht entschieden sind. Das ist ein typisches Beispiel für Halluzinationen.
Vier Schritte zur Überprüfung einer Antwort
- Prüfstellen herausfiltern Notieren Sie Zahlen, Daten, Namen, Zitate und Zusagen wie „wir werden …“.
- Die Quelle selbst öffnen Prüfen Sie, ob die Quelle tatsächlich existiert und ob an der betreffenden Stelle dasselbe steht wie in der Antwort. Ein bloßer Link ist kein Beleg.
- Unter gleichen Bedingungen vergleichen Prüfen Sie, ob Zielgruppe, Region, Zeitraum und Einheiten mit dem Original übereinstimmen, und rechnen Sie Berechnungen selbst nach. Achten Sie auch darauf, dass aus „geplant“ nicht „beschlossen“ geworden ist.
- Den verwendbaren Umfang festlegen Trennen Sie die geprüften Fakten von Punkten, die Sie noch nicht geprüft haben. Wichtige Entscheidungen stimmen Sie vor der Verwendung mit der zuständigen Person oder einem Fachmann ab.
Auch wenn mehrere KIs zu denselben Ergebnissen kommen, ist das nur ein Ausgangspunkt für die Prüfung.
Sie könnten alle dieselbe falsche Information oder Quelle heranziehen. Beschränken Sie sich nicht darauf, „Nenne die Quellen“ oder „Überarbeite es“ zu schreiben, sondern gehen Sie bis zum Originalmaterial zurück und prüfen Sie dort. Konkrete Prüfmethoden können Sie im Kapitel Die Grundlagen einer KI-Antwort prüfen üben.
Urheberrecht: Bedingungen für Eingabe, Erstellung und Veröffentlichung trennen
Beim Urheberrecht sollten Sie getrennt betrachten, ob Sie fremde Werke verwenden dürfen, und ob Ihr erzeugtes Ergebnis geschützt ist. Selbst wenn die Nutzungsbedingungen eines Dienstes „kommerzielle Nutzung erlaubt“ sagen, heißt das nicht, dass Sie damit die Rechte an fremden Werken geprüft hätten.
① Eingegebenes Material
Prüfen Sie, wer das Werk geschaffen hat, ob eine Erlaubnis oder Lizenz zur Nutzung vorliegt und ob gesetzliche Ausnahmen gelten. Nur weil ein Werk im Web zu sehen ist, heißt das nicht, dass Sie es in eine KI eingeben oder weiterverwenden dürfen.
② Erzeugte Ausdrucksform
Prüfen Sie, ob das Ergebnis die schöpferische Ausdrucksform eines bestehenden Werks wiedergibt. Die Agentur für kulturelle Angelegenheiten Japans ordnet Verletzungen in der Erzeugungs- und Nutzungsphase anhand von Ähnlichkeit und Bezugnahme auf das Original ein.[5]
③ Verwendung zur Veröffentlichung oder zum Verkauf
Was in der Erprobungsphase unproblematisch ist, kann für Veröffentlichung oder Verbreitung eine gesonderte Prüfung erfordern. Prüfen Sie Zweck, Medium, Region und Vertragsbedingungen gemeinsam.[5]
„Ob Sie selbst Urheberrechte haben“ ist eine eigene Prüfung
Nach der Auffassung der Agentur für kulturelle Angelegenheiten wird im Einzelfall geprüft, wie stark ein Mensch schöpferisch beteiligt war. Dass eine Anweisung lang war oder das Ergebnis mehrfach neu erzeugt wurde, entscheidet allein noch nicht über den Schutz. Auch der Bericht des US Copyright Office aus dem Jahr 2025 unterscheidet zwischen Fällen, in denen ein Mensch den Ausdruck bestimmt oder schöpferisch bearbeitet hat, und Fällen, in denen nur ein Prompt eingegeben wurde.[5] [6]
„Ähnlicher Stil“ und „Wiedergabe des Ausdrucks“ sind verschieden.
Ähnlichkeit in Bildstil oder Ideen ist nicht dasselbe wie Ähnlichkeit im schöpferischen Ausdruck eines bestehenden Werks. Das lässt sich nicht daran festmachen, ob ein Künstlername im Prompt stand. Vergleichen Sie deshalb das Original mit dem Ergebnis. Außerdem gilt: Selbst wenn ein erzeugtes Ergebnis nicht urheberrechtlich geschützt ist, dürfen Sie darin enthaltene Werke anderer oder Marken nicht frei verwenden.[5]
Beispiel: Wenn Sie eine online gefundene Illustration mit KI bearbeiten und in einer Anzeige verwenden möchten, prüfen Sie die Nutzungsbedingungen der Originalillustration, die im Ergebnis erhaltenen Ausdruckselemente des Originals und die Regeln für die Verwendung in Werbung. Gehen Sie nicht davon aus, dass „mit KI bearbeitet, also erlaubt“ gilt. Bei schwierigen Fällen wenden Sie sich an die Rechteinhaber oder an die zuständige Person in Ihrer Organisation.
Datenschutz: Was Sie einer KI übergeben dürfen
Ob Sie Informationen eingeben dürfen, hängt von drei Dingen ab: der Art der Information, dem verwendeten Dienst und Tarif sowie der Erlaubnis Ihrer Organisation. Wichtig ist, nicht aufgrund einer einzigen Bedingung zu entscheiden, etwa mit dem Gedanken „Bezahltarif ist sicher“ oder „Ich habe den Namen weggelassen, also passt es“.
Training, Speicherung, Löschung und Übermittlung getrennt betrachten
Hier wird eingestellt, ob die Daten zur Verbesserung des Modells verwendet werden. Wenn Sie das ausschalten, heißt das nicht, dass Ihr Verlauf verschwindet oder nicht mehr gespeichert wird.
Der Verlauf auf dem Bildschirm, die Speicherung beim Dienstanbieter und Sicherheitsprüfungen sind getrennte Dinge. Auch bei temporären Chats kann eine Speicherung erfolgen.
Prüfen Sie, was bis wann gelöscht wird und ob es Ausnahmen gibt. Selbst wenn etwas vom Bildschirm verschwindet, heißt das nicht unbedingt, dass die Speicherung beim Dienstanbieter oder die bisherige Nutzung vollständig beseitigt ist.
Verbundene Apps, Freigabelinks und Sendefunktionen unterliegen jeweils eigenen Bedingungen. Sie lassen sich nicht allein anhand der Einstellungen der KI selbst beurteilen.
Übungseingaben und echte Arbeitseingaben trennen
- Vertrauliche Unternehmensinformationen oder unveröffentlichter Quellcode
- Personenbezogene Daten von Kunden und Geschäftspartnern
- Geheime Informationen, die Ihnen von Dritten anvertraut wurden
- Unveröffentlichte Finanz- oder Personaldaten
- Detaillierte Umstände oder Nummern, mit denen sich eine Person oder ein Vorgang identifizieren lässt
- Nicht existierende Unternehmen, Personen oder Anfragen
- Selbst erstellte Beispiele ohne Bezug zu realen Personen oder Vorgängen
- Öffentliche Unterlagen, deren zulässige Nutzung Sie geprüft haben
- Eigene unveröffentlichte Texte (nachdem Sie geprüft haben, dass sie geteilt werden dürfen)
Passwörter, API-Schlüssel und private Schlüssel müssen weder für das Verfassen von Texten noch zum Üben eingegeben werden. Auch wenn Sie einen Namen in „Person A“ ändern, kann oft aus Adresse, Vorgangsbezeichnung, Datum und Uhrzeit erkennbar sein, um wen es geht. Ein verdeckter Name macht eine Information weder anonym, noch bedeutet er, dass Sie die Erlaubnis zur Weitergabe haben.
Die Bedingungen von drei Diensten in den offiziellen Unterlagen prüfen
Das Folgende gilt für privaten Chat (geprüft anhand der offiziellen Unterlagen der Anbieter am 14. Oktober 2026). Bei einem Tarif, den Ihr Unternehmen vertraglich abgeschlossen hat, unterscheiden sich Bedingungen und Verwaltungseinstellungen. Prüfen Sie diese deshalb gesondert.
Wenn Sie die Nutzung für das Training ausschalten, bleibt Ihr Verlauf erhalten. Bei Bewertungen von Antworten etwa gelten andere Bedingungen, und temporäre Chats können aus Sicherheitsgründen ebenfalls gespeichert werden.
Wenn Sie die Nutzung für das Training ausschalten, wird bereits begonnenes Training nicht rückgängig gemacht. Inkognito-Chats werden gespeichert, auch wenn sie nicht im Verlauf erscheinen, und für die Sicherheitsverarbeitung gelten gesonderte Bedingungen.
Einstellungen zur Nutzung für das Training und Geltungsbereich / Inkognito-Chats
Wenn Sie Aktivitäten ausschalten und kein Feedback senden, werden spätere Chats nicht zur Verbesserung des Modells verwendet. Antworten, Sicherheitsverarbeitung, Speicherung und die Überprüfung durch Menschen werden jedoch gesondert behandelt.
„Nicht für das Training verwendet“ bei Unternehmenstarifen bedeutet auch nicht, dass nichts gespeichert, nichts mit externen Diensten verbunden oder niemand Einblick nimmt. Die Erläuterung von OpenAI für Organisationen rät ebenfalls, für jeden Tarif, jede Funktion und jede Verbindung zu prüfen, wie Speicherung und Verwaltung gehandhabt werden. Prüfen Sie zuerst den Vertragsinhalt und vergleichen Sie ihn anschließend mit den Richtlinien Ihrer Organisation.
Bei Kundenanfragen die Eingabe reduzieren üben
Eine Anfrage mit echtem Namen, Kontaktdaten, Bestellnummer oder einem unveröffentlichten Vorgang. Auch wenn Sie den Namen unkenntlich machen, können Gegenüber oder Geschäftsvorgang aus anderen Informationen erkennbar sein.
„Ein Geschäftspartner hat nach dem Liefertermin für ein Produkt gefragt. Der Liefertermin steht noch nicht fest. Bitte formulieren Sie eine höfliche Antwort für externe Empfänger. Sagen Sie keinen Liefertermin zu.“
Reihenfolge vor der Eingabe: auf das für den Zweck Nötige beschränken → prüfen, wie der verwendete Dienst, Tarif und die verbundenen Ziele damit umgehen → mit den Regeln Ihrer Organisation abgleichen. Wenn Sie es nicht sicher beurteilen können, geben Sie nichts ein und probieren Sie es mit nicht existierenden Beispielen. Ausführlich dazu: Worauf Sie bei der Eingabe in KI achten sollten.
Wenn Sie bereits Informationen eingegeben haben, prüfen Sie zuerst , was und unter welchen Bedingungen sich löschen lässt. Handelt es sich um berufliche Informationen, wenden Sie sich an die zuständige Person in Ihrer Organisation. Die offizielle Erläuterung von OpenAI zu ChatGPT zeigt beispielsweise, dass Archivieren nicht dasselbe ist wie Löschen, dass es bei der Aufbewahrungsdauer nach dem Löschen Ausnahmen gibt und dass separat gespeicherte Dateien oder die Originaldaten verbundener Ziele gesondert behandelt werden. Beachten Sie außerdem: Allein dadurch, dass Sie etwas eingegeben haben, steht noch nicht fest, dass es zum Training verwendet oder anderen bekannt geworden ist.
Umgang mit Verzerrungen und Identitätstäuschung
Verzerrung (Bias): Nicht nur Daten, auch Gestaltung und Einsatz spielen eine Rolle
Verzerrungen bei KI entstehen nicht nur durch die Zusammensetzung der Trainingsdaten, sondern auch durch menschliche Urteile und durch die Systeme, in denen Gesellschaften und Organisationen KI einsetzen. Menschen mit bestimmten Merkmalen können dadurch ungerecht behandelt werden, oder die Genauigkeit unterscheidet sich je nach Sprache oder Gruppe.[7]
Beispiel für eine Bewerbungsunterlage
In einer Bewerbungsunterlage steht nur „sechs Monate Lücke im Lebenslauf“, ohne Begründung.
Annahme, die Sie nicht ergänzen sollten
Wenn Sie daraus schließen, „es gibt eine Lücke, also ist die Motivation gering“, fließt eine Vermutung in die Bewertung ein, die in den Unterlagen gar nicht steht.
So prüfen Sie
Halten Sie fest, dass „sich der Grund aus den Unterlagen nicht ersehen lässt“, und bewerten Sie dann nach denselben, für die Tätigkeit relevanten Kriterien. Allein dadurch, dass Sie die KI eine andere Sichtweise nennen lassen, ist die Verzerrung noch nicht beseitigt.
Bei Situationen wie Personalauswahl oder Leistungsbeurteilung, die die Behandlung von Menschen beeinflussen, legen Sie fest, wer betroffen ist und nach welchen Kriterien entschieden wird. Außerdem sorgen Sie für ein Verfahren, in dem Menschen die Ergebnisse überprüfen können.
Deepfakes: Auch bei täuschend echter Stimme oder echtem Video die Identität prüfen
Mit KI erstellte oder bearbeitete Bilder, Videos und Tonaufnahmen werden auch für Identitätstäuschung und Betrug genutzt. Das FBI nennt als Warnbeispiele Maschen, bei denen die Stimme eines Familienmitglieds nachgeahmt wird, um eine eilige Überweisung zu erbitten, sowie Videoanrufe, bei denen sich jemand als Führungskraft ausgibt.[3]
- Nicht sofort handeln Bei eiligen Geldüberweisungen, Anfragen nach Zugangsdaten wie Passwörtern oder einer Änderung der Zahlungsdaten sollten Sie nicht allein aufgrund einer Stimme oder eines Videos handeln.
- Selbst zurückrufen Legen Sie auf und rufen Sie über eine Ihnen bereits bekannte Nummer oder die offizielle Kontaktstelle der Organisation selbst zurück.
- Bis zur Überprüfung anhalten Prüfen Sie, ob die Person tatsächlich diejenige ist, für die sie sich ausgibt, was die Anfrage beinhaltet und ob die Organisation sie genehmigt hat. Lässt sich das nicht bestätigen, stoppen Sie Überweisungen oder die Weitergabe von Informationen und wenden Sie sich an die zuständige Person.
Ein unnatürliches Erscheinungsbild kann ein Hinweis sein, doch das Fehlen solcher Auffälligkeiten heißt nicht, dass etwas echt ist. Prüfen Sie bei Bildern und Videos aus sozialen Medien vor dem Teilen, wer sie wann veröffentlicht hat und in welchem Zusammenhang sie stehen. Für Maßnahmen im Unternehmen können Sie auch unseren Leitfaden zur Sicherheit von KI-Agenten heranziehen.
Gesetze und Regeln: Region, Zweck und Rolle prüfen
Neben KI-spezifischen Gesetzen sollten Sie auch Regeln prüfen, die mit Ihrem Vorhaben zu tun haben, etwa zu Urheberrecht, personenbezogenen Daten und Verbraucherschutz. Ausgangspunkt ist, in welcher Region, zu welchem Zweck und ob Sie als Anbieter oder als Nutzer von KI beteiligt sind.
Das Folgende beruht auf den offiziellen Unterlagen der jeweiligen Länder und Regionen mit Stand vom 16. Oktober 2026. Ob es auf Ihre Nutzung zutrifft, prüfen Sie bitte anhand des Originaltextes in den verlinkten Quellen oder mit Ihrer internen Fachabteilung.
EU: Die Anwendungszeitpunkte unterscheiden sich je nach Nutzung
Der AI Act gilt grundsätzlich ab dem 2. August 2026. Verbotene Praktiken und einige andere Regelungen gelten früher. Einige Hochrisiko-Anwendungen, etwa in Beschäftigung und Bildung, gelten ab dem 2. Dezember 2027, und Hochrisiko-KI, die in regulierte Produkte eingebaut ist, ab dem 2. August 2028. Die Zeitpunkte sind also gestaffelt.
Auch für die Kennzeichnungspflicht bei KI-generierten Inhalten gibt es Bedingungen und Ausnahmen, die sich nach Gegenstand und Rolle der jeweiligen Beteiligten richten.[8]
USA: Bestehende Regeln gelten auch für KI
Die FTC erklärt, dass Datenschutzzusagen gegenüber Nutzern auch bei KI-Diensten eingehalten werden müssen und dass KI nicht von der Anwendung bestehender Gesetze befreit.
Prüfen Sie, welche Gesetze und Verträge auf die Aufgaben zutreffen, die Sie nutzen oder anbieten.[9]
China: Öffentlich angebotene Dienste und Kennzeichnung
Die vorläufigen Maßnahmen zur Verwaltung generativer KI-Dienste gelten zum Beispiel, wenn Dienste der allgemeinen Öffentlichkeit innerhalb Chinas angeboten werden. Dieselben Bestimmungen gelten nicht unbedingt für Forschung ohne öffentliches Angebot oder für die interne Nutzung.
Die Maßnahmen zur kennzeichnung KI-generierter synthetischer Inhalte traten am 1. September 2025 in Kraft. Prüfen Sie die Bedingungen für Anbieter sowie für Nutzer, die erzeugte Inhalte veröffentlichen.[10]
Japan: Förderung und Risikomanagement
Das KI-Förderungsgesetz (AI Promotion Act) ist am 1. September 2025 vollständig in Kraft getreten. Das Kabinettsbüro Japans zeigt sowohl die Förderung des KI-Einsatzes als auch den Umgang mit seinen Risiken. Der Grundplan für künstliche Intelligenz wurde am 14. Juli 2026 überarbeitet.
Auch wenn der Staat den Einsatz fördert, heißt das nicht, dass eine bestimmte Nutzung genehmigt ist. Prüfen Sie zusätzlich Rechte, Verträge und die Regeln Ihrer Organisation.[1]
Checkliste vor der Nutzung und vor der Veröffentlichung
Ihre eigene Arbeit prüfen
- Vor der Eingabe: Beschränken Sie sich auf das Nötige und prüfen Sie, wie der verwendete Dienst damit umgeht und ob Sie es weitergeben dürfen. Üben Sie mit nicht existierenden Beispielen.
- Vor der Verwendung einer Antwort: Vergleichen Sie Zahlen, Daten, Zitate und Zusagen mit den Originalquellen und kennzeichnen Sie Punkte, die Sie nicht bestätigen können, als ungeprüft.
- Vor der Veröffentlichung: Prüfen Sie die Rechte an Material und erzeugten Ergebnissen, die Kennzeichnungsbedingungen sowie Empfänger und Umfang der Veröffentlichung.
- Wichtige Entscheidungen: Entscheiden Sie nicht allein anhand von KI-Antworten, sondern ziehen Sie die zuständige Person oder einen Fachmann hinzu.
Abläufe in der Organisation festlegen
- Legen Sie fest, welche Dienste, Tarife und Verbindungen erlaubt sind und welche Informationen eingegeben werden dürfen.
- Legen Sie fest, wer Veröffentlichungen oder Übermittlungen prüft und welche Vorgänge eine Genehmigung brauchen.
- Bereiten Sie ein Verfahren vor, mit dem Verzerrungen und Fehler überprüft und Entscheidungen korrigiert werden können.
- Legen Sie Ansprechpartner für Probleme sowie Verfahren für die Aussetzung der Nutzung und für Untersuchungen fest.
Zusammenfassung dieses Kapitels
Prüfen Sie vor der Eingabe, vor der Verwendung einer Antwort und vor der Veröffentlichung, wie mit Informationen umgegangen wird, ob sie mit den Originalquellen übereinstimmen, welche Rechte bestehen, ob Urteile verzerrt sind und ob Ihr Gegenüber tatsächlich die Person ist, für die es sich ausgibt. Die Prüfung ist eine wichtige Aufgabe der Nutzenden, doch die Verantwortung liegt nicht immer allein bei ihnen. Je nach Vertrag und konkretem Handeln kann auch die Verantwortung der KI-Anbieter und der Organisationen geprüft werden.[5] [9]
Quellen
- Kabinettsbüro Japans: Überblick über das KI-Förderungsgesetz, Grundplan für künstliche Intelligenz.
- NIST: Generative AI Risk Management Profile (2024, englisches PDF). Behandelt fehlerhafte generierte Inhalte sowie Ansätze zu deren Prüfung und Steuerung.
- FBI/IC3: Warnung vor Finanzbetrug mit generativer KI (3. Dezember 2024, Englisch).
- Offizielle Unterlagen zum Abschnitt Datenschutz (geprüft am 14. Oktober 2026): Datenkontrollen von OpenAI, Einstellungen zur Modellverbesserung von Anthropic, Googles Datenschutzerklärung zu Gemini. Einzelne Unterlagen zu Speicherung, Löschung und temporären Chats finden Sie an den entsprechenden Stellen im Text.
- Agentur für kulturelle Angelegenheiten Japans: Überlegungen zu KI und Urheberrecht (März 2024, PDF). Unterscheidet zwischen Entwicklung und Lernen, Erzeugung und Nutzung sowie der Schutzfähigkeit erzeugter Ergebnisse als Werk.
- U.S. Copyright Office: Veröffentlichung des Berichts zum Urheberrecht an KI-generierten Werken (29. Januar 2025, Englisch).
- NIST: KI-Verzerrungen können auch aus anderen Quellen als den Daten stammen (2022, Englisch).
- Europäische Kommission: Geltungsbereich und Anwendungszeitplan des AI Act (Englisch).
- FTC: KI-Unternehmen halten ihre Zusagen zu Datenschutz und Vertraulichkeit ein (2024, Englisch).
- Staatliches Büro für Internetinformation Chinas (CAC): Vorläufige Maßnahmen zur Verwaltung generativer KI-Dienste, Maßnahmen zur Kennzeichnung KI-generierter synthetischer Inhalte (Chinesisch).
Im nächsten Kapitel erklären wir die neuesten Trends bei KI. Wenn Sie Entwürfe bei der Arbeit verwenden, lesen Sie außerdem die Prüfschritte für E-Mails.