KI-Inhalte kennzeichnen: Was Artikel 50 des AI Act wirklich verlangt

Artikel 50 des AI Act verlangt kein sichtbares KI-Label für jeden KI-unterstützten Inhalt. Anbieter bestimmter Systeme müssen technische Voraussetzungen schaffen; Betreiber müssen Menschen vor allem bei Deepfakes, bestimmten Informationstexten und einzelnen KI-Anwendungen unmittelbar informieren.

Für Unternehmen und Kreative entscheiden vier Punkte: Sind sie Anbieter oder Betreiber, um welche Medienart geht es, kann der Inhalt fälschlich authentisch wirken und wurde ein Text substanziell menschlich geprüft? Eine redaktionelle Freigabe kann nur die Offenlegung bestimmter Texte entfallen lassen – nicht die Anbieterpflicht zur maschinenlesbaren Markierung und nicht die Kennzeichnung von Deepfakes.

Anbieter und Betreiber haben unterschiedliche Pflichten

Anbieter ist grundsätzlich, wer ein KI-System entwickelt oder entwickeln lässt und unter eigenem Namen beziehungsweise eigener Marke auf den Markt bringt oder in Betrieb nimmt. Betreiber ist eine Organisation oder beruflich handelnde Person, die ein KI-System unter eigener Verantwortung verwendet. Ein Unternehmen, das einen fremden Bildgenerator oder Textdienst nutzt, ist daher meist Betreiber und nicht dessen Anbieter.

Der offizielle Wortlaut von Artikel 50 ordnet Anbietern zwei zentrale Aufgaben zu: Direkt mit Menschen interagierende Systeme müssen die KI-Interaktion erkennen lassen, sofern sie nicht ohnehin offensichtlich ist. Ausgaben generativer Systeme für synthetische Texte, Bilder, Audio- und Videoinhalte müssen maschinenlesbar markiert und als künstlich erzeugt oder manipuliert erkennbar sein, soweit dies technisch machbar ist.

Betreiber müssen dagegen Personen informieren, die einer Emotionserkennung oder biometrischen Kategorisierung ausgesetzt sind. Bei veröffentlichten Inhalten treffen sie Offenlegungspflichten für Deepfakes und für KI-generierte oder manipulierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen. Eine eingebettete technische Markierung ersetzt einen für Menschen wahrnehmbaren Hinweis nicht.

Der Entscheidungsbaum für die Kennzeichnung

1. Welche Rolle besteht im konkreten Vorgang? Wer ein fremdes System beruflich nutzt, prüft die Betreiberpflichten. Wer das System selbst unter eigener Marke anbietet, muss zusätzlich die technischen Anbieterpflichten bewerten.
2. Interagiert das System direkt mit einer Person? Bei einem echten wechselseitigen Austausch, etwa mit einem Chatbot oder Sprachagenten, muss die KI-Natur spätestens zu Beginn der ersten Interaktion klar werden. Die Ausnahme für eine ohnehin offensichtliche KI-Interaktion ist vom konkreten Nutzungskontext abhängig.
3. Erzeugt das System synthetische Medien? Die maschinenlesbare Markierung ist grundsätzlich Aufgabe des Anbieters des generativen Systems. Die Pflicht greift nicht, soweit das System nur eine übliche Bearbeitung unterstützt oder Eingabedaten beziehungsweise deren Bedeutung nicht wesentlich verändert.
4. Handelt es sich um einen Deepfake? Das setzt einen KI-erzeugten oder manipulierten Bild-, Audio- oder Videoinhalt voraus, der einer existierenden Person, einem Objekt, Ort, einer Einrichtung oder einem Ereignis ähnelt und fälschlich authentisch oder wahr wirken kann. Dann muss der Betreiber die Manipulation offenlegen.
5. Informiert ein veröffentlichter Text über öffentliche Angelegenheiten? Ist dies der Veröffentlichungszweck, besteht grundsätzlich eine Offenlegungspflicht. Sie entfällt, wenn eine substanzielle menschliche Prüfung oder echte redaktionelle Kontrolle stattgefunden hat und eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Bei erkennbar künstlerischen, kreativen, satirischen oder fiktionalen Deepfakes entfällt die Pflicht nicht vollständig. Der Hinweis darf jedoch so gestaltet werden, dass er die Darstellung oder den Genuss des Werks nicht beeinträchtigt.

Fallmatrix: Werbebild, Chatbot, Podcaststimme und Text

• Synthetisches Werbebild: Ein erkennbares Fantasiemotiv ohne Bezug zu etwas Existierendem löst nicht allein wegen seiner KI-Herkunft eine sichtbare Betreiberkennzeichnung aus. Zeigt das Motiv dagegen eine reale Person, ein reales Produkt oder einen realen Ort täuschend authentisch in einer erfundenen Situation, kann es ein kennzeichnungspflichtiger Deepfake sein. Davon unabhängig bleibt die technische Markierung eine Frage für den Anbieter des Generators.
• Chatbot im Kundenservice: Der Systemanbieter muss die Anwendung so gestalten, dass Nutzer die direkte KI-Interaktion erkennen. Das einbindende Unternehmen sollte prüfen, ob der Hinweis in seiner konkreten Oberfläche tatsächlich zu Beginn erscheint. Eine Information, die ausschließlich in allgemeinen Bedingungen oder einer Datenschutzerklärung steht, ist dafür nicht unmittelbar wahrnehmbar.
• Synthetische Podcaststimme: Lässt eine geklonte Stimme eine existierende Person scheinbar etwas sagen, das sie nicht aufgenommen hat, und kann das Ergebnis echt wirken, ist die Manipulation offenzulegen. Eine generische Kunststimme ohne täuschenden Bezug zu einer existierenden Person ist nicht automatisch ein Deepfake; die maschinenlesbare Anbieterkennzeichnung kann dennoch erforderlich sein.
• Redigierter Informationstext: Ein KI-generierter Text über Politik, öffentliche Gesundheit, Verbrauchersicherheit oder eine andere Angelegenheit öffentlicher Debatte ist grundsätzlich offenzulegen. Nach einer substanziellen fachlichen Prüfung oder tatsächlichen redaktionellen Kontrolle kann der Hinweis entfallen, wenn zugleich eine Person oder Organisation die redaktionelle Verantwortung übernimmt.

Die Praxiseinordnung der IHK Nord Westfalen trennt ebenfalls zwischen Kundenkommunikation, Texten von öffentlichem Interesse und täuschend echt wirkenden Bildern, Videos oder Stimmen. Bei rein künstlichen Werbefiguren ohne reales Vorbild weist sie auf eine noch nicht abschließend geklärte Abgrenzung hin.

Menschliche Prüfung befreit nur bestimmte Texte

Eine Rechtschreibkontrolle, eine Grammatikprüfung oder eine rein formale Freigabe genügt nicht. Eine fachlich geeignete Person muss sich mit der Substanz des Textes befassen; bei redaktioneller Kontrolle muss die verantwortliche Stelle den Inhalt aus sachlichen Gründen ändern, freigeben oder ablehnen können. Zusätzlich muss eine natürliche oder juristische Person die letzte redaktionelle Verantwortung für die Veröffentlichung tragen.

Diese Ausnahme gilt ausschließlich für die Betreiberpflicht bei veröffentlichten KI-Texten, die über Angelegenheiten von öffentlichem Interesse informieren. Sie beseitigt weder die technische Markierungspflicht des Anbieters noch die Offenlegung eines Deepfakes. Wird ein geprüfter Text anschließend durch KI inhaltlich verändert, muss auch die neue Fassung die Voraussetzungen der Ausnahme erfüllen.

Geltungsbeginn und Reichweite

Die Transparenzpflichten gelten seit dem 2. August 2026. Eine begrenzte Übergangsfrist bis zum 2. Dezember 2026 betrifft nur die maschinenlesbare Markierungs- und Erkennungspflicht für generative Systeme, die bereits vor dem ersten Datum auf dem Markt waren; die rechtliche Übersicht von Cooley grenzt diese Frist von den übrigen Offenlegungspflichten ab. Anbieter außerhalb der EU können ebenfalls erfasst sein, wenn ihre Systeme auf dem EU-Markt angeboten oder deren Ausgaben in der EU verwendet werden – damit ist Artikel 50 auch für Schweizer Anbieter mit EU-Nutzern relevant.

Für die Einordnung müssen technische Herkunftsmarkierung und wahrnehmbare Publikumsinformation getrennt bleiben. Entscheidend ist nicht allein, ob KI beteiligt war, sondern wer das System bereitstellt, wer den Inhalt beruflich verwendet, welchen Zweck die Veröffentlichung hat und ob Bild, Ton oder Video fälschlich authentisch wirken kann.