KI-Inhalte kennzeichnen: Pflichten nach der KI-Verordnung

Worum es in diesem Teil geht

Die ersten fünf Teile dieser Reihe drehen sich vor allem ums Urheberrecht, Teil 4 auch um Datenschutz. Teil 1 erklärt, wie du fremde Texte zitierst, zusammenfasst und übersetzt. Teil 2 zeigt, wann eine Umformulierung mit KI zu nah am Original bleibt. Dieser letzte Teil wechselt das Rechtsgebiet. Hier geht es um die Frage, wann du offenlegen musst, dass KI im Spiel war.

Die Antwort steht vor allem in Art. 50 der KI-Verordnung der EU (Verordnung (EU) 2024/1689, kurz KI-VO). Viele Unternehmen glauben, sie müssten jetzt jeden KI-Text kennzeichnen. Das stimmt so nicht. Die Pflichten sind enger, als oft behauptet wird. An anderen Stellen sind sie dafür strenger, als viele denken.

Dieser Text ist eine Momentaufnahme der Rechtslage zum 8. Oktober 2026. Gerade bei KI ändern sich Gesetze, Leitlinien und Rechtsprechung schnell. Prüf deshalb vor wichtigen Entscheidungen, ob sich seitdem etwas getan hat.

Zwei Rollen: Anbieter und Betreiber

Die KI-Verordnung verteilt ihre Pflichten auf zwei Rollen. Welche Rolle du hast, entscheidet darüber, was du tun musst.

• Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen anbietet oder in Betrieb nimmt (Art. 3 Nr. 3 KI-VO). Das sind etwa OpenAI, Anthropic oder DeepL. Es kann aber auch dein Unternehmen sein, wenn ihr selbst ein KI-System baut.
• Betreiber ist, wer ein KI-System in eigener Verantwortung verwendet (Art. 3 Nr. 4 KI-VO). Schreibt dein Marketing-Team Blogtexte mit ChatGPT, ist dein Unternehmen Betreiber.

Wer KI rein privat nutzt, ist kein Betreiber im Sinne der Verordnung (Art. 3 Nr. 4 KI-VO). Das KI-Bild für die Geburtstagseinladung löst also keine Pflichten aus. Sobald du im Job veröffentlichst, sieht das anders aus. Eine Ausnahme für kleine Unternehmen enthält Art. 50 nicht.

Was du kennzeichnen musst

Deepfakes: Bilder, Videos und Ton, die echt wirken

Ein Deepfake ist nach der Verordnung ein Bild-, Ton- oder Videoinhalt, den KI erzeugt oder verändert hat. Er ähnelt existierenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen. Und er würde einem Menschen fälschlich als echt erscheinen (Art. 3 Nr. 60 KI-VO). Nach den Leitlinien der EU-Kommission reicht es, wenn es die gezeigte Person oder Szene so geben könnte. Auch ein fotorealistisches Bild einer erfundenen Person kann also ein Deepfake sein.

Erzeugst du als Betreiber einen solchen Inhalt, musst du offenlegen, dass er künstlich erzeugt oder verändert ist. Das steht in Art. 50 Abs. 4 Unterabsatz 1 KI-VO (im Folgenden kurz „Unterabs.“).

Ein Beispiel: Für die Karriereseite lässt du ein fotorealistisches Bild erzeugen. Es zeigt angeblich dein Team in eurem Büro, die Personen gibt es aber nicht. Wirkt das Bild wie ein echtes Foto, musst du es nach den Leitlinien der Kommission kennzeichnen. Dass es die Personen gar nicht gibt, ändert daran nichts. Dasselbe gilt für ein Video, in dem eine KI-Stimme wie eure Geschäftsführerin klingt.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gibt es eine Erleichterung. Dort reicht ein Hinweis, der die Darstellung oder den Genuss des Werks nicht stört (Art. 50 Abs. 4 Unterabs. 1 KI-VO). Ganz entfällt die Offenlegung aber auch dort nicht. Eine klar erkennbare Illustration im Comicstil ist dagegen meist schon kein Deepfake, weil sie gar nicht echt wirkt.

Texte: nur bei Themen von öffentlichem Interesse

Für Texte ist die Pflicht deutlich enger. Als Betreiber kennzeichnest du veröffentlichte KI-Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen (Art. 50 Abs. 4 Unterabs. 2 KI-VO). Das Gesetz enthält keine Liste solcher Themen. Die Leitlinien der Kommission nennen etwa Politik, Justiz, öffentliche Gesundheit, Umwelt und Verbraucherschutz. Dazu kommen wirtschaftliche oder wissenschaftliche Entwicklungen von öffentlicher Bedeutung.

Werbetexte und Produktbeschreibungen dienen in der Regel nicht diesem Zweck. Nach den Leitlinien der EU-Kommission fallen sie deshalb meist nicht unter die Pflicht. Ein Grenzfall ist noch nicht geklärt. Offen ist, ob ein Werbetext anders zu bewerten ist, wenn er zugleich über ein Gesundheits- oder Umweltthema informiert.

Die wichtigste Ausnahme betrifft die menschliche Prüfung. Die Pflicht entfällt, wenn ein Mensch den KI-Text geprüft oder redaktionell kontrolliert hat. Zusätzlich muss eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung tragen (Art. 50 Abs. 4 Unterabs. 2 KI-VO). Gemeint ist jemand, der für den Inhalt namentlich einsteht, etwa im Impressum. Beides muss zusammenkommen. Das kann auch dein Unternehmen selbst sein.

Die Prüfung muss echt sein. Nach den Leitlinien der Kommission, wie Fachbeiträge sie wiedergeben, genügt eine reine Rechtschreibkorrektur nicht. Ein flüchtiges Abnicken reicht ebenfalls nicht. Gefragt ist eine inhaltliche Prüfung, etwa ein Faktencheck. Bearbeitest du den Text nach der Freigabe noch einmal mit KI, kann die Ausnahme wieder entfallen.

Ein Beispiel: Eine Steuerberatung verschickt einen Newsletter zu einer Gesetzesänderung. Den Entwurf schreibt eine KI. Eine Steuerberaterin prüft die Fakten, überarbeitet den Text und gibt ihn frei. Die Kanzlei steht als Herausgeberin dafür ein. In diesem Fall dürfte die Ausnahme greifen. Wichtig ist, dass nach der Freigabe niemand mehr mit KI am Text ändert. Erscheint derselbe Text ungeprüft und automatisch, etwa über einen öffentlichen KI-Newsfeed, musst du ihn in aller Regel kennzeichnen.

Chatbots: Hinweis, dass eine KI antwortet

Menschen sollen wissen, wenn sie mit einer KI sprechen. Diese Pflicht trifft den Anbieter des KI-Systems (Art. 50 Abs. 1 KI-VO). Er muss das System so gestalten, dass Nutzer darüber informiert werden. Eine Ausnahme gilt nur, wenn die KI für eine angemessen informierte, aufmerksame und verständige Person ohnehin offensichtlich ist. Für Chatbots im Kundenservice nehmen die Leitlinien das nicht an.

Für deine Website ist die Rollenfrage wichtig. Baut ihr einen Chatbot auf Basis eines Sprachmodells und betreibt ihn unter eurem Namen, könnt ihr selbst als Anbieter gelten. So lesen es viele Fachbeiträge. Nutzt ihr das fertige Chat-Widget eines Dienstleisters, ist oft dieser der Anbieter. Die Abgrenzung ist im Einzelfall nicht immer eindeutig.

Der Hinweis muss spätestens bei der ersten Interaktion kommen, klar und eindeutig (Art. 50 Abs. 5 KI-VO). Er muss außerdem den geltenden Anforderungen an die Barrierefreiheit entsprechen. Ein Satz in den AGB reicht nach den Leitlinien der Kommission nicht. Gut ist eine Begrüßung wie „Hallo, ich bin der KI-Assistent der Muster GmbH“ direkt im Chatfenster.

Unabhängig von der Kennzeichnung haftest du für das, was dein Chatbot sagt. Das OLG Hamm hat einem Unternehmen falsche Angaben seines Chatbots als eigene irreführende Werbung zugerechnet (Urteil vom 12.05.2026, Az. 4 UKl 3/25). Das Urteil ist noch nicht rechtskräftig, die Revision zum BGH ist zugelassen.

Was die Tool-Anbieter erledigen müssen

Anbieter von KI-Systemen, die Texte, Bilder, Ton oder Videos erzeugen, haben eine eigene Pflicht. Sie müssen die Ergebnisse maschinenlesbar markieren, sodass sie als KI-Inhalt erkennbar sind (Art. 50 Abs. 2 KI-VO). Das geschieht etwa über Metadaten, also unsichtbare Zusatzangaben in der Datei, oder über digitale Wasserzeichen. Ausgenommen sind Werkzeuge, die nur bei der Standardbearbeitung helfen oder die Eingaben nicht wesentlich verändern.

Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt hierfür eine Übergangsfrist bis zum 2. Dezember 2026. Das ergibt sich nach übereinstimmenden Fachberichten aus der Verordnung (EU) 2026/1744. Für dich als Betreiber ist wichtig: Die unsichtbare Markierung des Anbieters ersetzt deinen sichtbaren Hinweis nicht. Es sind zwei getrennte Pflichten (Art. 50 Abs. 2 und Abs. 4 KI-VO). Ein praktischer Rat: Entferne solche Markierungen nicht ohne Grund aus den Dateien.

Seit wann die Pflichten gelten

Art. 50 gilt seit dem 2. August 2026 (Art. 113 KI-VO). Andere Teile der Verordnung gelten schon länger, die Pflichten für Hochrisiko-KI kommen erst später. Ende 2025 hatte die EU-Kommission den sogenannten Digital-Omnibus vorgeschlagen. Er soll die KI-Verordnung vereinfachen und Fristen verschieben. Das Ergebnis ist die Verordnung (EU) 2026/1744, nach Fachberichten in Kraft seit dem 27. Juli 2026. Sie verschiebt vor allem Pflichten für Hochrisiko-KI.

Die Transparenzpflichten aus Art. 50 hat der Omnibus nicht verschoben. Die einzige Ausnahme ist die oben beschriebene Übergangsfrist für die maschinenlesbare Markierung durch Anbieter. Für Deepfakes, Texte und Chatbots gilt also seit dem 2. August 2026 die volle Pflicht. Bilder, Videos und Ton, die vor diesem Datum erzeugt wurden, musst du nach den Leitlinien nicht nachträglich kennzeichnen.

Leitlinien und Verhaltenskodex der Kommission

Zwei Papiere der EU-Kommission helfen bei der Auslegung. Am 10. Juni 2026 hat sie einen Verhaltenskodex zur Markierung und Kennzeichnung KI-generierter Inhalte veröffentlicht. Er ist freiwillig. Er beschreibt technische Lösungen für Anbieter und Kennzeichnungen für Betreiber, etwa bei Deepfakes und Texten. Grundlage dafür ist Art. 50 Abs. 7 KI-VO.

Im Juli 2026 haben Kommission und KI-Rat den Kodex als geeignet bewertet. Wer ihn unterzeichnet und einhält, kann sich darauf stützen. Einen sicheren Nachweis, dass alles stimmt, ersetzt das aber nicht.

Am 20. Juli 2026 folgten Leitlinien zu allen Pflichten aus Art. 50. Sie sind rechtlich nicht verbindlich. Verbindlich auslegen kann die Verordnung nur der Europäische Gerichtshof. Die Aufsichtsbehörden dürften sich aber an den Leitlinien orientieren. Gerichtsentscheidungen zu Art. 50 sind uns bis zum genannten Stand nicht bekannt.

Was bei Verstößen droht

Verstöße gegen Art. 50 können mit Geldbußen geahndet werden. Die Obergrenze liegt bei 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes, je nachdem, was höher ist (Art. 99 Abs. 4 KI-VO). Für kleine und mittlere Unternehmen gilt der jeweils niedrigere Betrag (Art. 99 Abs. 6 KI-VO). Das sind Höchstgrenzen. Bei der Höhe im Einzelfall zählen unter anderem Art, Schwere und Dauer des Verstoßes (Art. 99 Abs. 7 KI-VO).

In Deutschland ist die Bundesnetzagentur die zentrale Aufsichtsbehörde für die KI-Verordnung, soweit keine Fachbehörde zuständig ist. Das regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), in Kraft seit dem 29. Juli 2026. Für journalistisch-redaktionelle und werbliche Medienangebote bleiben nach Landesrecht die Landesmedienanstalten zuständig. Das kann auch Blogs und Newsletter betreffen. Wie streng die Behörden bei Art. 50 vorgehen, lässt sich zum Stand dieses Textes noch nicht sagen.

Plattformregeln und Wettbewerbsrecht

Eigene Regeln der Plattformen

Soziale Netzwerke haben zusätzlich eigene Regeln. Meta zeigt bei Facebook und Instagram einen Hinweis („AI info“). Er erscheint, wenn Nutzer den KI-Einsatz angeben oder Meta technische Signale in der Datei erkennt. LinkedIn zeigt bei Bildern und Videos mit Herkunftsdaten nach dem C2PA-Standard ein Symbol. C2PA ist ein technischer Standard für Herkunftsangaben in Bilddateien. Über das Symbol lässt sich abrufen, ob KI beteiligt war. Diese Regeln stehen in den Nutzungsbedingungen der Plattformen und ändern sich häufig. Sie ersetzen die gesetzliche Pflicht nicht.

Irreführende Werbung

Unabhängig von der KI-Verordnung gilt das Gesetz gegen den unlauteren Wettbewerb (UWG). Irreführende Werbung ist unzulässig (§ 5 UWG). Zeigt ein KI-Bild ein Produkt besser, als es ist, kann das irreführen, ganz gleich, ob es gekennzeichnet ist. Erfundene Kundenbewertungen sind gegenüber Verbrauchern ausnahmslos unzulässig (Anhang zu § 3 Abs. 3 UWG, Nr. 23c). Das gilt auch, wenn eine KI sie geschrieben hat.

Offen ist eine andere Frage. Können Mitbewerber eine fehlende Kennzeichnung nach Art. 50 abmahnen? Das hinge davon ab, ob Art. 50 eine Marktverhaltensregel ist (§ 3a UWG). Gemeint ist eine Vorschrift, die auch Verbraucher und Mitbewerber im Wettbewerb schützt. Eine Gerichtsentscheidung dazu haben wir bis zum Stand dieses Textes nicht gefunden. Einige Fachbeiträge halten es für möglich.

So gehst du konkret vor

Die folgenden Schritte helfen dir, die Pflichten im Alltag umzusetzen. Sie sind eine Empfehlung und keine Garantie.

• Website und Blog: Lass jeden KI-Text von einer fachkundigen Person inhaltlich prüfen. Lege fest, wer ihn freigibt und dafür verantwortlich ist. Ein Impressum mit verantwortlicher Person hilft dabei. Ungeprüfte KI-Texte zu Themen von öffentlichem Interesse kennzeichnest du direkt am Text, etwa mit „Dieser Text wurde mit KI erstellt“.
• Newsletter: Hier gilt dasselbe wie im Blog. Achte auf automatische Bausteine, etwa KI-Zusammenfassungen von Nachrichten. Laufen sie ohne Prüfung durch, brauchen sie einen Hinweis.
• Bilder und Videos: Kennzeichne fotorealistische KI-Bilder, KI-Stimmen und veränderte Videos sichtbar am Inhalt selbst. Eine gut sichtbare Bildunterschrift wie „KI-generiertes Bild“ direkt am Bild ist ein gängiger Weg. Der Verhaltenskodex zur Kennzeichnung, den die Kommission im Juli 2026 als angemessen bewertet hat, schlägt dafür einheitliche EU-Symbole vor. Ein Symbol allein beweist aber noch nicht, dass du die Pflicht erfüllst. Ein Hinweis nur im Impressum genügt nicht.
• Chatbot: Zeig gleich zu Beginn im Chatfenster, dass eine KI antwortet. Kläre mit deinem Dienstleister, wer nach der Verordnung Anbieter ist. Regle im Vertrag, wer den Hinweis im Chatfenster umsetzt.
• Social Media: Nutze die Kennzeichnungsfunktionen der Plattformen, wenn du KI-Bilder oder KI-Videos postest.
• Dokumentieren: Halte in einer kurzen KI-Richtlinie fest, wer welche Tools nutzt, wie geprüft wird und wann ihr kennzeichnet. So kannst du bei einer Nachfrage zeigen, wie ihr vorgeht.

Eine freiwillige Kennzeichnung ist übrigens jederzeit erlaubt, solange der Hinweis stimmt. Ein kurzer Hinweis wie „Mit KI-Unterstützung erstellt und redaktionell geprüft“ schadet nicht. Er kann sogar Vertrauen schaffen.

Checkliste vor dem Veröffentlichen

• Bist du bei diesem Inhalt Betreiber, oder bietest du selbst ein KI-System an, etwa einen eigenen Chatbot?
• Zeigt ein KI-Bild, -Video oder -Ton Personen, Orte oder Ereignisse so, dass es wie echt wirkt, auch wenn es sie gar nicht gibt? Dann kennzeichnen.
• Informiert ein KI-Text die Öffentlichkeit über ein Thema von öffentlichem Interesse?
• Hat ein Mensch diesen Text inhaltlich geprüft, und trägt jemand die redaktionelle Verantwortung? Falls nein: kennzeichnen.
• Hat nach der Freigabe noch jemand mit KI am Text geändert?
• Erfährt jeder Nutzer deines Chatbots gleich zu Beginn, dass er mit einer KI spricht?
• Steht der Hinweis direkt am Inhalt und ist er auch für Menschen mit Behinderung wahrnehmbar?
• Könnte ein KI-Bild in der Werbung ein Produkt besser darstellen, als es ist?

Die Reihe im Überblick

Mit diesem Teil ist die Reihe vollständig. Wenn du einzelne Fragen nachlesen willst, findest du sie hier:

• Teil 1: Fremde Texte zitieren, zusammenfassen und übersetzen, die Grundregeln des Urheberrechts.
• Teil 2: Texte mit KI umschreiben, und wann daraus eine Bearbeitung wird.
• Teil 3: Wem gehören KI-Texte? Urheberrecht an KI-Ergebnissen.
• Teil 4: Fremde Dokumente in KI-Tools, was du hochladen darfst.
• Teil 5: Bilder, Grafiken und Screenshots auf der eigenen Website.

Urheberrecht und Kennzeichnung sind zwei getrennte Fragen. Ein KI-Hinweis macht einen Text, der fremde Rechte verletzt, nicht zulässig. Umgekehrt braucht ein sauber geprüfter eigener Text oft gar keinen Hinweis. Wer beide Fragen kennt, kann KI im Alltag deutlich sicherer einsetzen.