Logo - FARRAGO
Wissensbereich

KI-Kennzeichnungspflicht: was Sie nach Art. 50 offenlegen müssen

Chatbots, KI-Bilder und Deepfakes richtig kennzeichnen – klar erklärt, mit Beispielen und den offiziellen EU-Icons.

Was Art. 50 verlangt – und was nicht

Der EU AI Act schafft in Art. 50 besondere Transparenzpflichten für bestimmte KI-Systeme. Er verlangt nicht, dass jeder KI-Inhalt sichtbar als KI gekennzeichnet wird. Entscheidend ist, um welchen der Fälle es geht – und ob Sie Anbieter oder Betreiber des Systems sind.

Direkte Interaktion mit KI (Art. 50 Abs. 1)

  • Bei Systemen für die direkte Interaktion mit Menschen muss erkennbar sein, dass man mit einer KI und nicht mit einem Menschen zu tun hat – klar und spätestens bei der ersten Interaktion.
  • Diese Gestaltungs- und Informationspflicht trifft nach Art. 50 Abs. 1 zunächst den Anbieter des KI-Systems.
  • Ausnahme, wenn es aus dem Zusammenhang offensichtlich ist. Ein Hinweis nur in den AGB reicht nicht aus. Binden Sie einen fremden Chatbot ein, sollten Sie dennoch auf eine klare Information achten.

Maschinenlesbare Kennzeichnung (Art. 50 Abs. 2)

  • Anbieter von KI-Systemen – einschließlich GPAI-Systemen –, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen dafür sorgen, dass die Ausgaben maschinenlesbar als künstlich erzeugt oder manipuliert erkennbar sind.
  • Ausnahmen bestehen u. a. für unterstützende Standardbearbeitung, wenn Eingabe und Semantik nicht wesentlich verändert werden, sowie für gesetzlich zugelassene Fälle der Strafverfolgung.
  • Das ist eine technische Anbieterpflicht – nicht dasselbe wie eine sichtbare Kennzeichnung durch einen gewöhnlichen Anwender.

Deepfakes sichtbar offenlegen (Art. 50 Abs. 4)

  • Betreiber müssen offenlegen, wenn ein Bild-, Ton- oder Videoinhalt ein Deepfake ist.
  • Ein Deepfake ist ein durch KI erzeugter oder manipulierter Inhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt und fälschlicherweise als echt oder wahr erscheinen könnte.
  • Bei Kunst, Satire oder Fiktion: so kennzeichnen, dass das Werk nicht beeinträchtigt wird.

Emotionserkennung und biometrische Kategorisierung (Art. 50 Abs. 3)

  • Wer ein Emotionserkennungs- oder biometrisches Kategorisierungssystem einsetzt, muss die betroffenen Personen grundsätzlich darüber informieren.
  • Ausgenommen sind gesetzlich zugelassene Anwendungen, etwa bestimmte Fälle der Strafverfolgung.
  • Solche Systeme können zusätzlich verboten oder als Hochrisiko eingestuft sein – prüfen Sie das zuerst.

KI-generierte Texte: Eine sichtbare Offenlegung nach Art. 50 Abs. 4 gilt nicht für jeden KI-Text. Sie betrifft Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Sie entfällt, wenn der Inhalt einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung übernimmt.
Zwei Ebenen: Die maschinenlesbare Markierung (Wasserzeichen, Metadaten) ist Anbieterpflicht nach Art. 50 Abs. 2. Die für Menschen sichtbare Offenlegung trifft je nach Fall den Betreiber – insbesondere bei Deepfakes nach Art. 50 Abs. 4.

So kennzeichnen Sie in der Praxis

  • Chatbot: ein klarer Hinweis zu Beginn, z. B. „Sie chatten mit einem KI-Assistenten".
  • Offenlegungspflichtige Inhalte (z. B. Deepfakes): sichtbarer Zusatz wie „KI-generiert" nahe am Inhalt – nicht versteckt im Impressum.
  • Die Europäische Kommission stellt freiwillig nutzbare Icons und Vorlagen bereit; ein gesetzlicher Zwang zu bestimmten Symbolen besteht nicht.
  • Halten Sie intern fest, welche Inhalte KI-gestützt erstellt wurden (Nachweisbarkeit).

EU-Icons zum Download

Die Europäische Kommission stellt freiwillig nutzbare Icons und Vorlagen zur Kennzeichnung KI-generierter oder manipulierter Inhalte bereit.
Zu den EU-Icons →

§ Art. 50 Abs. 1–4 KI-VO (Transparenzpflichten)

Häufige Fragen zur KI-Kennzeichnungspflicht

Muss ich einen Chatbot als KI kennzeichnen?

Ja. Nach Art. 50 EU AI Act müssen Nutzer erkennen können, dass sie mit einer KI und nicht mit einem Menschen sprechen – spätestens bei der ersten Interaktion.

Müssen KI-generierte Bilder gekennzeichnet werden?

Nicht jedes KI-generierte Bild muss nach Art. 50 für Menschen sichtbar gekennzeichnet werden. Eine ausdrückliche Offenlegungspflicht des Betreibers besteht insbesondere dann, wenn Bild-, Ton- oder Videoinhalte einen Deepfake darstellen. Unabhängig davon bestehen technische Kennzeichnungspflichten für Anbieter generativer KI-Systeme nach Art. 50 Abs. 2 sowie gegebenenfalls weitere Kennzeichnungspflichten aus anderen Rechtsgebieten.

Reicht ein Hinweis in den AGB?

Nein. Die Kennzeichnung muss klar, eindeutig und für Menschen erkennbar sein – ein versteckter Hinweis in den AGB genügt nicht.

Wer ist für die Kennzeichnung verantwortlich?

Die Verantwortlichkeit hängt von der jeweiligen Transparenzpflicht ab. Art. 50 Abs. 1 und 2 enthält insbesondere Pflichten für Anbieter. Art. 50 Abs. 3 und 4 enthält bestimmte Informations- und Offenlegungspflichten für Betreiber.

Ab wann gilt die Kennzeichnungspflicht?

Die Transparenzpflichten nach Art. 50 greifen mit der stufenweisen Anwendung des EU AI Act; die generelle Anwendbarkeit ist der 2. August 2026.

Weiterlesen

Stand: August 2026. Dieser Beitrag dient der Orientierung und ersetzt keine Rechtsberatung.