Kennzeichnung KI-generierter Inhalte

Die Künstliche Intelligenz (KI), englisch auch Artificial Intelligence (AI) genannt, ist zu einem integralen Bestandteil des alltäglichen Lebens zahlreicher Menschen geworden. Bereits 78 % der Unternehmen in Deutschland nutzen generative KI, insbesondere zur Unterstützung von Aufgaben in den Bereichen Recherche, Marketing und Content.

Mit der Absicht, einheitliche und verbindliche Regelungen für den Einsatz künstlicher Intelligenz zu etablieren, hat die Europäische Union die KI-Verordnung (Verordnung (EU) 2024/1689) erlassen, die ab dem 2. August 2026 gilt. Das Ziel besteht darin, sicherzustellen, dass KI-Systeme transparent, zuverlässig und sicher arbeiten. Hinzu kommen die wettbewerbsrechtlichen Grenzen des UWG.

Für die derzeit besonders relevante generative KI (Systeme, die Texte, Bilder oder Videos erzeugen) gelten besondere Transparenzpflichten. Dazu zählt u. a. die Pflicht, KI-generierte Inhalte entsprechend zu kennzeichnen.

Gem. Art. 50 Abs. 4 KI-VO sind Betreiber von KI-Systemen verpflichtet, entsprechende Inhalte zu kennzeichnen, wenn sie Bild-, Ton- oder Videomaterial erzeugen oder verändern, das als „Deepfake“ einzustufen ist. Ein „Deepfake“ ist gem. Art. 3 Nr. 60 KI-VO ein durch KI erzeugter oder manipulierter Inhalt, der echten Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würde.

1. Unternehmen als „Betreiber“ gem. Art. 3 Nr. 4 KI-VO

Nach Art. 3 Nr. 4 KI-VO gilt als Betreiber jede Person oder Organisation, die ein KI-System in eigener Verantwortung einsetzt, also alle verwendenden Unternehmen. Allerdings sind Unternehmen wie OpenAI oder Anthropic, die ein solches KI-System hergestellt haben, keine „Betreiber“, sondern „Anbieter“ nach dem Verständnis der KI-VO.

2. Beispiele zur Abgrenzung kennzeichnungspflichtiger Inhalte

Für eine Kennzeichnungspflicht nach Art. 50 Abs. 4 KI-VO muss das Bild „echten“ Personen oder Objekten ähneln. Dabei gilt ein Bild bereits dann als „ähnlich“, wenn es physische Merkmale von Menschen, Tieren, Landschaften oder Sachen nachbildet – auch wenn dabei keine konkrete Person oder gar eine bekannte Persönlichkeit realistisch nachgeahmt wird.

Nach diesem Verständnis wäre Abbildung 1 als „ähnlich“ einzustufen, da ein Mensch dargestellt ist, während Abbildung 2 (eine Comic-Figur) eher nicht darunterfällt.

Abbildung 3 zeigt eine surreale Kombination aus einem an den Pariser Eiffelturm angelehnten Bauwerk und einer Jacke. Zwar existieren beide Elemente, jedoch wirkt die Darstellung offensichtlich manipuliert. Wird dieses Motiv etwa in einem Bekleidungsgeschäft eingesetzt, ist eine Kennzeichnung nach Art. 50 Abs. 4 KI-VO entbehrlich, da ein durchschnittliches Publikum nicht annehmen würde, dass der echte Pariser Eiffelturm tatsächlich mit einer realen Jacke bedeckt wurde. Somit vermittelt das Bild keinen realitätsgetreuen Eindruck.

Anders ist Abbildung 4 zu bewerten. Sie zeigt eine alltägliche Großstadtszene. Wirbt ein Unternehmen für ein Sachbuch über eine Großstadt, dann kann eine solche Darstellung im Sinne der KI-VO als „ähnlich“ gelten.

Abbildung 5 veranschaulicht, dass auch nicht fotorealistische Motive als Deepfakes in Betracht kommen können. Wird beispielsweise damit geworben, aus Kundenfotos handgemalte Ölgemälde zu erstellen, könnte das Bild kennzeichnungspflichtig sein. Es wirkt zwar nicht wie ein echtes Foto, kann aber den Eindruck eines realen Kunstwerks erwecken und von Laien als echtes Ölgemälde wahrgenommen werden, wodurch eine potenzielle Täuschung nicht ausgeschlossen ist.

Eine Kennzeichnung nach Art. 50 Abs. 4 KI-VO bei Abbildung 1 und 4 ist aktuell empfehlenswert. Hingegen kann bei Abbildung 2 und 3 darauf verzichtet werden. In bestimmten Konstellationen könnte auch Abbildung 5 kennzeichnungspflichtig sein.

Auch sog. AI-Models können täuschungsgeeignet und damit kennzeichnungspflichtig sein. Diese KI-generierten Personen betreiben eigene Social-Media-Kanäle und treten regelmäßig in Werbungen auf. Da sie bewusst menschenähnlich wirken und ein reales Privatleben suggerieren, können sie als kennzeichnungspflichtige Deepfakes eingeordnet werden. Werbung mit AI-Models müsste daher spätestens mit Geltung der KI-VO auf ihren KI-Ursprung hinweisen.

3. Form der Kennzeichnung

Die Form der Kennzeichnung ist gesetzlich nicht abschließend geregelt. Nach Art. 50 Abs. 5 S. 1 KI-VO muss sie jedoch „in klarer und eindeutiger Weise“ erfolgen. Innerhalb dieses Rahmens besteht für Betreiber ein gewisser Spielraum, etwa bei Wortwahl, Symbolen, Platzierung und Gestaltung der Kennzeichnung. Wie „Klarheit und Eindeutigkeit“ zu verstehen ist, hängt vom jeweiligen Adressatenkreis ab. Zudem müssen die Informationen gem. Art. 50 Abs. 5 KI-VO die geltenden Barrierefreiheitsanforderungen erfüllen.

Erfahrungen aus der Influencer-Werbung zeigen zudem, dass englische Begriffe wie #ad oder #sponsored im deutschen Markt rechtlich kritisch gesehen werden. Für Inhalte mit Bezug zum deutschen Publikum empfiehlt sich daher auch im KI-Kontext eher eine deutschsprachige Kennzeichnung.

Zudem sieht die KI-VO in Art. 50 Abs. 4 UAbs. 2 eine Kennzeichnungspflicht für von KI erstellte oder „manipulierte“ Texte vor. In diesen Fällen muss der Betreiber offenlegen, dass der Text ganz oder teilweise künstlich erzeugt wurde.

Dabei dürfte diese Pflicht in der Werbepraxis nur eine geringe Rolle spielen. Sie betrifft ausschließlich öffentlichkeitsrelevante Texte und entfällt zudem, wenn eine „menschliche Überprüfung oder redaktionelle Kontrolle“ erfolgt ist und die Verantwortung bei einer natürlichen oder juristischen Person liegt.

Die Kennzeichnung muss auch hier nach Art. 50 Abs. 5 S. 1 KI-VO „in klarer und eindeutiger Weise“ erfolgen. Innerhalb dieses Rahmens besteht ein Gestaltungsspielraum. Nach Erwägungsgrund 134 der KI-VO ist eine gut erkennbare und verständliche Kennzeichnung ausreichend, solange sie die Wahrnehmung des Textes nicht beeinträchtigt.

Nach Auffassung der Wettbewerbszentrale reicht daher ein gut erkennbarer Hinweis (Bsp.: „Dieser Text wurde mit Hilfe einer KI bearbeitet“, „KI-erzeugter Text“) vor dem Text aus, der in klarer und lesbarer Form darauf aufmerksam macht, dass der Inhalt KI-generiert oder -bearbeitet wurde.

Ein Chatbot ist ein KI-gestütztes, textbasiertes Dialogsystem, das eine Kommunikation mit einem technischen System in Form eines Chats ermöglicht. KI-Avatare sind virtuelle Figuren, die mithilfe künstlicher Intelligenz gesteuert werden und menschenähnliche Interaktionen simulieren können. Chatbots und KI-Avatare werden von Unternehmen häufig zur Beantwortung von Standardfragen, zur Bearbeitung einfacher Serviceanfragen sowie zur Weiterleitung komplexer Anliegen an Mitarbeitende eingesetzt.

Beim Einsatz von Chatbots muss klar und frühzeitig darauf hingewiesen werden, dass Nutzer mit einer KI und nicht mit einem Menschen kommunizieren (Art. 50 Abs. 1 KI-VO), idealerweise direkt zu Beginn der Interaktion (etwa: „Sie chatten hier mit einem KI-Assistenten“). Eine bloße Formulierung wie „KI-unterstützt“ ist dagegen ungeeignet, da sie nicht eindeutig erkennen lässt, dass ausschließlich mit einer KI interagiert wird. Die Kennzeichnungspflicht trifft den Anbieter des Chatbots, also die verantwortliche Stelle für Entwicklung und Bereitstellung der Software.

Auch KI-Avatare müssen von den Anbietern von KI-Systemen zu Beginn der Interaktion als solche kenntlich gemacht werden. Eine Kennzeichnung kann entfallen, wenn der Avatar offensichtlich keinen menschlichen Eindruck vermittelt. Wird ein Avatar einer realen Person täuschend echt nachempfunden, verarbeitet der Anbieter biometrische Daten i. S. d. DSGVO (VO (EU) 2016/679) und der Avatar gilt als Deepfake, weshalb dies entsprechend gekennzeichnet werden muss.

Die Rechtsprechung wird die Vorgaben der KI-Verordnung in den kommenden Jahren weiter konkretisieren. Bis dahin stellt Transparenz den sichersten Ansatz dar, um sowohl Bußgelder als auch wettbewerbsrechtliche Unterlassungsansprüche zu vermeiden.

Unternehmen sollten daher zunächst ihre Werbebilder sorgfältig prüfen: Wirkt ein Motiv realistisch und könnte es bei Laien den Eindruck eines echten Inhalts erwecken, ist eine Kennzeichnung nach Art. 50 Abs. 4 KI-VO erforderlich. Ebenso sollte dokumentiert werden, dass werbliche oder journalistische KI-Texte einer redaktionellen Endkontrolle durch geschulte Personen unterzogen werden.

Bei KI-gestützten Interaktionen ist zudem zu Beginn jeder Nutzung klar offenzulegen, dass die Kommunikation mit einer KI erfolgt. Eine bloße Kennzeichnung wie „von KI unterstützt“ reicht dabei nicht aus.

Schließlich ist zu beachten, dass die maßgeblichen Regelungen der KI-VO ab dem 2. August 2026 in allen EU-Mitgliedstaaten unmittelbar gelten. Unternehmen sollten daher rechtzeitig interne Richtlinien entwickeln und implementieren.