Kennzeichnungspflicht für KI-Inhalte: Was Unternehmen nach Art. 50 KI-VO beachten müssen

Das Wichtigste vorweg: Nicht jeder Inhalt, bei dessen Erstellung KI eingesetzt wurde, muss sichtbar als KI-Inhalt gekennzeichnet werden. Entscheidend ist unter anderem, um welche Art von Inhalt es sich handelt, wie realistisch er wirkt, welchem Zweck er dient und ob eine fachkundige menschliche Prüfung stattgefunden hat.

Was regelt Artikel 50 der KI-Verordnung?

Artikel 50 der KI-Verordnung – häufig auch als EU AI Act oder KI-VO bezeichnet – enthält Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme. Dabei muss zwischen zwei Ebenen unterschieden werden:

Anbieter von KI-Systemen müssen unter anderem dafür sorgen, dass synthetisch erzeugte oder manipulierte Texte, Bilder, Videos und Audiodateien technisch und maschinenlesbar als solche erkannt werden können.

Unternehmen, die KI-Systeme beruflich einsetzen, können dagegen verpflichtet sein, Menschen sichtbar darüber zu informieren, dass sie mit einer KI interagieren oder dass bestimmte veröffentlichte Inhalte künstlich erzeugt beziehungsweise manipuliert wurden.

Für die meisten Unternehmen und Organisationen ist vor allem die zweite Ebene relevant: Was muss auf einer Website, in einem Onlineshop, in einem Newsletter oder in den sozialen Medien erkennbar gemacht werden?

Welche KI-Inhalte müssen gekennzeichnet werden?

1. Chatbots und andere direkte KI-Interaktionen

Werden natürliche Personen direkt von einem KI-System angesprochen, müssen sie grundsätzlich darüber informiert werden, dass sie mit einer KI und nicht mit einem Menschen kommunizieren.

Das betrifft beispielsweise:

• Chatbots auf Unternehmenswebsites,
• automatisierte Service-Assistenten,
• KI-basierte Beratungsdialoge,
• Sprachassistenten und Voicebots,
• virtuelle Personen oder Avatare, die auf Nutzereingaben reagieren.

Eine zusätzliche Information kann entbehrlich sein, wenn für einen durchschnittlich informierten, aufmerksamen und verständigen Nutzer bereits eindeutig erkennbar ist, dass es sich um ein KI-System handelt. Unternehmen sollten sich auf diese Ausnahme jedoch nicht unnötig verlassen. Ein kurzer Hinweis schafft Klarheit und Vertrauen.

Beispiel für eine Kennzeichnung:

Sie kommunizieren mit unserem KI-gestützten digitalen Assistenten. Die Antworten werden automatisch erstellt und können Fehler enthalten.

Der Hinweis sollte spätestens zu Beginn der Kommunikation sichtbar sein – beispielsweise direkt im Kopfbereich des Chatfensters oder oberhalb des Eingabefeldes.

2. Realistisch wirkende KI-Bilder, Videos und Audiodateien

Kennzeichnungspflichtig sind sogenannte Deepfakes. Darunter versteht die KI-Verordnung KI-generierte oder manipulierte Bild-, Audio- oder Videoinhalte, die real existierende oder realistisch erscheinende Personen, Gegenstände, Orte, Organisationen oder Ereignisse darstellen und dabei fälschlich authentisch oder wahrheitsgetreu wirken können.

Für Unternehmen können darunter beispielsweise fallen:

• ein fotorealistisches KI-Bild eines Firmengebäudes, das so nicht existiert,
• ein künstlich erzeugtes Foto vermeintlicher Mitarbeiterinnen und Mitarbeiter,
• ein Produktbild, das ein Produkt oder eine Produkteigenschaft realistisch darstellt, obwohl diese Aufnahme nie entstanden ist,
• ein Video, in dem eine reale Person scheinbar Aussagen trifft, die sie nie gemacht hat,
• eine künstlich erzeugte Stimme, die wie eine konkrete Person klingt,
• ein verändertes Immobilienfoto, bei dem Gebäude, Umgebung oder Ausstattung wesentlich ergänzt wurden,
• ein KI-generiertes Kunden-Testimonial mit einer scheinbar realen Person.

Entscheidend ist nicht nur, ob KI verwendet wurde. Maßgeblich ist, ob der Inhalt beim Betrachter den Eindruck erwecken kann, eine authentische Aufnahme oder ein tatsächliches Ereignis zu zeigen.

Geeignete Hinweise und die offiziellen EU-Icons

Geeignete textliche Hinweise können beispielsweise lauten:

• Dieses Bild wurde vollständig mithilfe künstlicher Intelligenz erstellt.
• Dieses Bild wurde teilweise mithilfe künstlicher Intelligenz verändert.
• KI-generierte Visualisierung – keine tatsächliche Aufnahme.
• Bildmaterial wurde mithilfe künstlicher Intelligenz bearbeitet.

Stimme und Bild der dargestellten Person wurden künstlich erzeugt.

Ergänzend zu solchen Texthinweisen stellt die Europäische Union einheitliche Icons zur Kennzeichnung KI-generierter und KI-veränderter Inhalte zur Verfügung. Sie sollen Nutzern helfen, auf einen Blick zu erkennen, dass ein Inhalt vollständig oder teilweise mithilfe künstlicher Intelligenz erstellt wurde.

• Basis-Icon
  Für kennzeichnungspflichtige Inhalte, an deren Erstellung oder Veränderung KI beteiligt war – insbesondere in Verbindung mit einem ergänzenden Text oder einer zweiten Informationsebene.
• Vollständig KI-generiert
  Für Inhalte, die vollständig durch KI erzeugt wurden und – abgesehen von der Eingabe eines Prompts – keine menschlich erstellten Bestandteile oder redaktionelle Kontrolle enthalten.
• Teilweise KI-verändert
  Für vorhandene, von Menschen erstellte Inhalte, die durch KI wesentlich verändert wurden, etwa ein authentisches Foto einer leeren Wohnung, das mit KI möbliert wurde.

Die EU-Icons stehen in verschiedenen Darstellungsvarianten sowie als SVG- und PNG-Dateien zur Verfügung und dürfen frei verwendet werden. Ihre Nutzung ist jedoch freiwillig. Die Kennzeichnungspflichten aus Artikel 50 KI-VO bleiben davon unberührt. Ein EU-Icon allein ist daher kein automatischer Nachweis dafür, dass sämtliche rechtlichen Anforderungen erfüllt sind.

Empfehlung für die Praxis: Kombinieren Sie das passende EU-Icon mit einem kurzen, eindeutig formulierten Texthinweis wie „Vollständig KI-generiert“, „Teilweise mit KI verändert“ oder „KI-generierte Visualisierung“. Nach Angaben der EU-Kommission wurde die Erkennbarkeit der Icons in Nutzertests durch ergänzende Textbezeichnungen verbessert.

Offizielle EU-Icons und Anwendungshinweise aufrufen

Die Kennzeichnung muss klar und für Menschen wahrnehmbar sein. Ein ausschließlich in den Metadaten hinterlegter Hinweis genügt bei kennzeichnungspflichtigen Deepfakes nicht. Das Icon beziehungsweise der Hinweis sollte spätestens beim ersten Kontakt mit dem Inhalt erkennbar sein. Bei der technischen Einbindung sollten außerdem barrierefreie Alternativtexte oder ARIA-Beschriftungen vorgesehen werden.

3. KI-generierte Texte zu Themen von öffentlichem Interesse

Auch KI-generierte oder wesentlich durch KI manipulierte Texte können kennzeichnungspflichtig sein. Das gilt allerdings nicht für jeden Produkttext, jeden Social-Media-Beitrag oder jeden Unternehmensblog.

Die Pflicht betrifft Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Dazu können beispielsweise gehören:

• politische und gesellschaftliche Entwicklungen,
• öffentliche Verwaltung und öffentliche Dienstleistungen,
• Rechtsprechung und Strafverfolgung,
• öffentliche Sicherheit,
• Gesundheitsthemen,
• Umwelt- und Klimaschutz,
• Verbrauchersicherheit,
• wirtschaftliche und finanzielle Entwicklungen,
• wissenschaftliche oder kulturelle Themen, die Gegenstand einer öffentlichen Debatte sein können.

Beispiel: Ein Unternehmen veröffentlicht einen vollständig automatisiert erzeugten Artikel über neue gesetzliche Vorgaben, Gesundheitsrisiken oder politische Entwicklungen. Wurde der Text ohne fachkundige menschliche Prüfung veröffentlicht und übernimmt niemand die redaktionelle Verantwortung, muss offengelegt werden, dass er künstlich erzeugt oder manipuliert wurde.

Ein möglicher Hinweis lautet:

• Dieser Beitrag wurde automatisiert mithilfe eines KI-Systems erstellt und nicht redaktionell geprüft.

Wann müssen KI-Texte nicht gekennzeichnet werden?

Für Texte zu Themen von öffentlichem Interesse besteht eine wichtige Ausnahme: Eine Kennzeichnung ist nicht erforderlich, wenn der Inhalt einer menschlichen Prüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung übernimmt.

Eine ausreichende Prüfung bedeutet mehr als das Korrigieren von Rechtschreibung und Grammatik. Die zuständige Person sollte insbesondere:

• die Aussagen fachlich und inhaltlich prüfen,
• Fakten und Quellen kontrollieren,
• fehlerhafte oder missverständliche Formulierungen korrigieren,
• den Text eigenständig freigeben oder ablehnen können,
• die Verantwortung für die Veröffentlichung übernehmen.

Für Unternehmen bedeutet das: KI darf weiterhin als Hilfsmittel für Recherche, Gliederung oder Formulierung eingesetzt werden. Werden die Inhalte anschließend fachkundig geprüft, bearbeitet und verantwortlich freigegeben, besteht für solche Texte nach Artikel 50 KI-VO grundsätzlich keine Kennzeichnungspflicht wegen ihrer KI-Unterstützung.

Wichtig: Andere rechtliche Vorgaben – etwa das Wettbewerbsrecht, das Urheberrecht, das Datenschutzrecht, Persönlichkeitsrechte oder besondere Informationspflichten – gelten unabhängig davon weiter.

Welche Inhalte müssen in der Regel nicht sichtbar gekennzeichnet werden?

Artikel 50 führt nicht zu einer allgemeinen Kennzeichnungspflicht für sämtliche KI-unterstützten Arbeiten. Allein aufgrund des Einsatzes von KI ist in der Regel kein sichtbarer Hinweis erforderlich bei:

• Rechtschreib- und Grammatikkorrekturen,
• stilistischen Verbesserungsvorschlägen,
• automatischen Übersetzungen,
• der Erstellung von Gliederungen oder Themenvorschlägen,
• der Optimierung von Meta-Titeln und Meta-Beschreibungen,
• KI-gestützten ALT-Texten für Bilder,
• offensichtlich künstlichen Icons, Illustrationen oder Infografiken,
• abstrakten Hintergrundgrafiken,
• üblichen Bildkorrekturen wie Rauschreduzierung, Schärfung oder Farboptimierung,
• Produktbeschreibungen und Werbetexten, die keine Angelegenheiten von öffentlichem Interesse behandeln,
• Textentwürfen, die anschließend fachkundig geprüft und redaktionell verantwortet werden.

Vorsicht ist jedoch geboten, wenn eine Bearbeitung den Aussagegehalt eines Bildes, Videos oder Textes wesentlich verändert. Wird beispielsweise aus einem leeren Veranstaltungsraum durch KI ein gut besuchtes Firmenevent, kann der fertige Inhalt einen tatsächlich nicht vorhandenen Zustand vortäuschen.

Praxisbeispiele für Websites und Onlinemarketing

Wie muss die Kennzeichnung gestaltet sein?

Die Information muss klar, unterscheidbar und spätestens bei der ersten Interaktion beziehungsweise beim ersten Kontakt mit dem Inhalt wahrnehmbar sein. Außerdem sind die geltenden Anforderungen an die Barrierefreiheit zu beachten.

Für die praktische Umsetzung bedeutet das:

• Hinweise sollten nicht ausschließlich im Impressum oder in der Datenschutzerklärung stehen
• Bei Bildern bietet sich eine Kennzeichnung direkt am Bild oder in der Bildunterschrift an
• Bei Videos kann der Hinweis zu Beginn, dauerhaft im Bild oder unmittelbar am Player eingeblendet werden
• Bei Audiodateien kann eine kurze gesprochene Information oder ein deutlich sichtbarer Hinweis am Player verwendet werden
• Bei Chatbots sollte der Hinweis vor der ersten Eingabe oder spätestens mit der ersten Antwort erscheinen
• Die Formulierung sollte einfach und verständlich sein
• Kennzeichnungen sollten auch mit Screenreadern erfassbar sein
• Das EU-Icon sollte so eingebunden werden, dass es beim Teilen oder Herunterladen des Inhalts möglichst erhalten bleibt

Maschinenlesbare und sichtbare Kennzeichnung sind nicht dasselbe

Die KI-Verordnung unterscheidet zwischen einer technischen und einer für Menschen sichtbaren Kennzeichnung.

Anbieter generativer KI-Systeme müssen grundsätzlich dafür sorgen, dass erzeugte Texte, Bilder, Videos und Audiodateien in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert erkannt werden können. Hierzu können beispielsweise Metadaten, digitale Herkunftsnachweise, Wasserzeichen oder andere technische Markierungen eingesetzt werden.

Unternehmen, die kennzeichnungspflichtige Inhalte veröffentlichen, dürfen sich jedoch nicht allein auf solche unsichtbaren Markierungen verlassen. Deepfakes und bestimmte KI-generierte Texte müssen zusätzlich für den Nutzer verständlich offengelegt werden.

Vorhandene Metadaten und Herkunftsinformationen sollten beim Bearbeiten, Exportieren und Hochladen von Dateien möglichst nicht entfernt werden.

Was gilt für bereits früher erstellte Texte, Bilder und Videos?

Eine allgemeine Pflicht, sämtliche vor dem 2. August 2026 erstellten KI-Inhalte nachträglich zu kennzeichnen, besteht nicht. Die Leitlinien der Europäischen Kommission unterscheiden dabei jedoch zwischen Texten sowie Bild-, Audio- und Videoinhalten. Auch bei bereits bestehenden Chatbots gelten eigene Regeln.

Bereits veröffentlichte KI-Texte

Texte zu Angelegenheiten von öffentlichem Interesse, die vor dem 2. August 2026 sowohl KI-generiert beziehungsweise KI-manipuliert als auch veröffentlicht wurden, müssen grundsätzlich nicht nachträglich gekennzeichnet werden.

Wurde ein solcher Text zwar vor dem Stichtag erstellt, aber erst am oder nach dem 2. August 2026 veröffentlicht, muss er gekennzeichnet werden, sofern er unter Artikel 50 fällt und keine ausreichende menschliche Prüfung oder redaktionelle Kontrolle mit entsprechender redaktioneller Verantwortung stattgefunden hat.

Beispiel: Ein im Juli 2026 vollständig automatisiert erstellter Beitrag über eine neue gesetzliche Regelung benötigt bei einer erstmaligen Veröffentlichung im August 2026 grundsätzlich einen KI-Hinweis. Wurde der Beitrag vor der Veröffentlichung fachkundig geprüft, redaktionell kontrolliert und verantwortlich freigegeben, kann die Ausnahme für redaktionell geprüfte Texte greifen.

Bereits erstellte Bilder, Videos und Audiodateien

KI-generierte oder KI-manipulierte Bilder, Videos und Audiodateien, die als Deepfakes unter Artikel 50 fallen und vor dem 2. August 2026 erzeugt oder verändert wurden, müssen nicht rückwirkend gekennzeichnet werden. Die Europäische Kommission empfiehlt jedoch eine freiwillige Kennzeichnung, soweit dies mit vertretbarem Aufwand möglich ist.

Unternehmen müssen deshalb nicht sämtliche früheren Mediendatenbanken überprüfen oder bereits gedruckte Broschüren, Verpackungen und andere Printprodukte nachträglich ändern. Bei besonders täuschend echt wirkenden Inhalten kann eine freiwillige Kennzeichnung dennoch sinnvoll sein, um Missverständnisse zu vermeiden und Vertrauen zu schaffen.

Neue oder nachträgliche KI-Bearbeitungen

Wird ein älteres Foto, Video oder eine Audiodatei erst nach dem 2. August 2026 mithilfe von KI wesentlich verändert, ist die neu entstandene Fassung nach den aktuellen Vorgaben zu beurteilen. Das Alter des Ausgangsmaterials ist dabei nicht entscheidend.

Beispiel: Ein echtes Foto eines leeren Büroraums aus dem Jahr 2024 wird im August 2026 per KI mit Möbeln und Personen ergänzt. Wirkt das Ergebnis wie eine authentische Aufnahme, sollte die neue Fassung etwa mit „Teilweise mit KI verändert“ oder „KI-generierte Visualisierung – keine tatsächliche Aufnahme“ gekennzeichnet werden.

Bereits bestehende Chatbots und KI-Assistenten

Für Chatbots und andere direkt mit Menschen interagierende KI-Systeme gibt es keine entsprechende Bestandsschutzregelung. Auch ein bereits vor dem Stichtag eingerichteter Chatbot muss seit dem 2. August 2026 so gestaltet sein, dass Nutzer zu Beginn der Interaktion erkennen können, dass sie mit einem KI-System kommunizieren – sofern dies nicht bereits offensichtlich ist.

Praktische Empfehlung: Eine vollständige rückwirkende Prüfung sämtlicher Website- und Mediendateien ist nicht erforderlich. Sinnvoll ist aber eine gezielte Bestandsaufnahme besonders sensibler Inhalte – etwa fotorealistischer KI-Darstellungen realer Personen, Produkte oder Gebäude, künstlicher Testimonials, synthetischer Stimmen, ungeprüfter Informationstexte zu öffentlichen Themen sowie weiterhin eingesetzter Chatbots.

Was Unternehmen jetzt tun sollten

1. KI-Anwendungen erfassen: Dokumentieren Sie, welche KI-Systeme für Texte, Bilder, Videos, Audiodateien, Übersetzungen oder Kundenkommunikation eingesetzt werden.
2. Inhalte nach Risikogruppen unterscheiden: Besonders relevant sind Chatbots, fotorealistische Bilder, manipulierte Fotos, synthetische Stimmen, KI-Videos und automatisiert veröffentlichte Informationstexte.
3. Redaktionelle Prüfprozesse festlegen: Legen Sie fest, wer KI-generierte Texte fachlich kontrolliert, Quellen prüft und die Veröffentlichung freigibt.
4. Kennzeichnungsmöglichkeiten im CMS vorsehen: In TYPO3 oder anderen Content-Management-Systemen können beispielsweise Auswahlfelder für „vollständig KI-generiert“, „teilweise KI-verändert“ und „redaktionell geprüft“ eingerichtet werden. Daraus lassen sich automatisch Hinweise, Bildunterschriften oder EU-Icons ausgeben.
5. Chatbots transparent gestalten: Nutzer sollten unmittelbar erkennen können, dass sie mit einem automatisierten System kommunizieren.
6. Bild- und Videodaten dokumentieren: Halten Sie fest, mit welchem System ein Inhalt erzeugt oder verändert wurde und welche wesentlichen Änderungen vorgenommen wurden.
7. Technische Markierungen erhalten: Achten Sie darauf, dass Herkunftsinformationen beim Export aus Grafikprogrammen, beim Komprimieren oder beim Upload in ein CMS nicht unbeabsichtigt entfernt werden.

Welche Folgen können Verstöße haben?

Verstöße gegen die Transparenzpflichten aus Artikel 50 können nach Artikel 99 KI-VO mit erheblichen Geldbußen geahndet werden. Vorgesehen sind grundsätzlich Geldbußen von bis zu 15 Millionen Euro oder – bei Unternehmen – bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen gelten besondere Begrenzungen und Verhältnismäßigkeitsanforderungen.

Neben möglichen Sanktionen besteht ein weiteres Risiko: Nicht gekennzeichnete oder irreführend eingesetzte KI-Inhalte können das Vertrauen von Kunden, Geschäftspartnern und Websitebesuchern beeinträchtigen.

Unser Fazit

Die KI-Verordnung verlangt keine pauschale Kennzeichnung aller Inhalte, bei deren Erstellung KI beteiligt war. Unternehmen müssen daher nicht jeden sprachlich optimierten Text und nicht jede künstlich erzeugte Illustration mit einem KI-Hinweis versehen.

Kennzeichnungen sind vor allem erforderlich, wenn Menschen direkt mit einem KI-System interagieren, wenn realistisch wirkende Bild-, Audio- oder Videoinhalte einen falschen Eindruck von Authentizität vermitteln oder wenn ungeprüfte KI-Texte die Öffentlichkeit über Themen von öffentlichem Interesse informieren.

Für Unternehmen empfiehlt sich deshalb keine pauschale Kennzeichnung, sondern ein klarer interner Prüfprozess:

• Welche KI wurde eingesetzt?
• Wie stark wurde der Inhalt verändert?
• Könnte der Inhalt als authentisch missverstanden werden?
• Wurde er fachkundig geprüft und verantwortlich freigegeben?

Als Internetagentur unterstützen wir unsere Kunden bei der technischen Umsetzung entsprechender Hinweise, bei der Integration der EU-Icons in TYPO3 und andere Content-Management-Systeme sowie bei der Entwicklung transparenter redaktioneller Prozesse.

Rechtlicher Hinweis: Dieser Beitrag dient ausschließlich der allgemeinen Information und stellt keine Rechtsberatung dar. Ob und in welcher Form eine Kennzeichnungspflicht besteht, muss stets anhand des konkreten Einzelfalls geprüft werden. Bei rechtlichen Zweifelsfragen sollte eine entsprechend spezialisierte Rechtsberatung hinzugezogen werden.

Quellen und weiterführende Informationen

• Europäische Kommission: Artikel 50 – Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme
• Europäische Kommission: Transparenzpflichten nach Artikel 50 der KI-Verordnung
• Europäische Kommission: EU-Icons zur Kennzeichnung KI-generierter Inhalte
• Europäische Kommission: Code of Practice on Transparency of AI-Generated Content
• Europäische Kommission: Artikel 99 – Sanktionen