Transparenzpflichten nach Art. 50 AI Act: Chatbots, Deepfakes und KI-Inhalte

Art. 50 besteht aus mehreren Pflichten

Eine pauschale Regel, nach der jeder KI-generierte Inhalt sichtbar gekennzeichnet werden muss, enthält Art. 50 nicht. Die Vorschrift unterscheidet Systeme mit unmittelbarer Interaktion, maschinenlesbare Kennzeichnung synthetischer Ausgaben, Information bei Emotionserkennung oder biometrischer Kategorisierung, Offenlegung von Deepfakes und Offenlegung bestimmter Texte zu Angelegenheiten von öffentlichem Interesse. Für jede Fallgruppe sind Verpflichteter, Gegenstand, Zeitpunkt, Form und Ausnahmen gesondert zu prüfen.

Der erste Umsetzungsschritt ist daher eine Rollen- und Inhaltsmatrix. Anbieter entwickeln ein System oder lassen es entwickeln und bringen es unter eigenem Namen in Verkehr oder Betrieb; Betreiber verwenden es in eigener Verantwortung. Ein Unternehmen kann Anbieter einer Kundenlösung und zugleich Betreiber eines zugekauften Moduls sein. Die technische Kennzeichnung durch den Anbieter ersetzt nicht automatisch die situationsbezogene Offenlegung durch den Betreiber, und eine sichtbare Betreiberinformation erfüllt nicht zwingend die maschinenlesbare Anbieterpflicht.

• Pflichtentatbestand statt Sammelkennzeichnung wählen
• Anbieter und Betreiber je Ausgabe bestimmen
• Technische und kommunikative Maßnahmen trennen

Quellen: [1] [2]

Direkte Interaktion mit Menschen

Anbieter von KI-Systemen, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, müssen die Systeme grundsätzlich so gestalten, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren. Die Information ist nicht erforderlich, wenn dies aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist. Die Offensichtlichkeit sollte nicht allein aus interner Produktsicht beurteilt werden.

Bei Chatbots, Sprachassistenten oder virtuellen Figuren sind Bezeichnung, Einleitung, Oberfläche, Stimme und Gesprächsverlauf zusammen relevant. Die Information muss spätestens bei der ersten Interaktion klar und unterscheidbar erfolgen und den Barrierefreiheitsanforderungen Rechnung tragen. Verdeckte Hinweise in langen Nutzungsbedingungen sind regelmäßig kein guter Umsetzungsansatz. Ausnahmen für gesetzlich zugelassene Systeme zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten sind eng und gesondert zu prüfen.

• Perspektive einer verständigen betroffenen Person einnehmen
• Hinweis spätestens bei erster Interaktion platzieren
• Barrierefreiheit und Kanalgestaltung testen

Quellen: [1] [2]

Maschinenlesbare Kennzeichnung durch Anbieter

Anbieter von KI-Systemen, einschließlich GPAI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Ausgaben grundsätzlich in einem maschinenlesbaren Format kennzeichnen und als künstlich erzeugt oder manipuliert erkennbar machen. Die eingesetzten Lösungen sollen wirksam, interoperabel, robust und zuverlässig sein, soweit technisch machbar. Dabei sind Besonderheiten und Grenzen verschiedener Inhalte, Implementierungskosten und allgemein anerkannte technische Standards zu berücksichtigen.

Diese Pflicht ist von einem sichtbaren Label für Endnutzer zu unterscheiden. Metadaten, Wasserzeichen, Provenienzsignale oder andere technische Verfahren können Bestandteile einer Lösung sein; ihre Eignung hängt vom Medium und Bearbeitungsweg ab. Für Systeme, die hauptsächlich Standardbearbeitung unterstützen oder Eingaben nicht wesentlich verändern, enthält die Vorschrift Grenzen. Anbieter von Systemen, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben für diese Pflicht eine begrenzte Übergangsfrist bis 2. Dezember 2026.

• Medienarten und Exportwege inventarisieren
• Robustheit nach Konvertierung und Bearbeitung testen
• Altsystemfrist nur auf Art. 50 Abs. 2 beziehen

Quellen: [1] [4] [2]

Emotionserkennung und biometrische Kategorisierung

Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren. Diese Transparenzpflicht ist von der Frage zu trennen, ob der Einsatz nach Art. 5 verboten oder als Hochrisiko-System einzuordnen ist. Eine Information legalisiert keinen sonst unzulässigen Einsatz. Insbesondere Arbeitsplatz, Bildung, biometrische Merkmale und sensible Kategorien verlangen eine zusätzliche Tatbestandsprüfung.

Außerdem sind personenbezogene Daten nach den anwendbaren Vorgaben der DSGVO und gegebenenfalls der Richtlinie für Strafverfolgungsbehörden zu verarbeiten. Informationswege sollten Zeitpunkt, Adressaten, Systemzweck und Kontaktstelle abdecken. Bei physisch zugänglichen Räumen können Hinweise vor Eintritt nötig sein; bei digitalen Prozessen sind kontextbezogene Anzeigen sinnvoll. Dokumentiert werden sollten Wortlaut, Sprachversion, Barrierefreiheit, Ausspielungslogik und Nachweis, dass betroffene Personen die Information die betroffenen Personen tatsächlich erreichen kann.

• Art. 5, Hochrisiko und Art. 50 getrennt prüfen
• Information vor oder bei Betroffenheit ausspielen
• Datenschutzinformationen eigenständig erfüllen

Quellen: [1] [2]

Deepfakes und Texte von öffentlichem Interesse

Betreiber, die ein KI-System zur Erzeugung oder Manipulation von Bild-, Audio- oder Videoinhalten verwenden, die einen Deepfake darstellen, müssen den künstlich erzeugten oder manipulierten Charakter offenlegen. Für offensichtlich künstlerische, kreative, satirische, fiktionale oder vergleichbare Werke ist die Pflicht so zu erfüllen, dass Darstellung oder Genuss des Werks nicht beeinträchtigt werden; sie entfällt aber nicht automatisch. Medium, Platzierung und Verständlichkeit bleiben zu gestalten.

Für KI-generierte oder manipulierte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, besteht eine eigene Offenlegungspflicht. Sie kann entfallen, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle erfolgt und eine natürliche oder juristische Person redaktionelle Verantwortung für die Veröffentlichung trägt. Diese Ausnahme gilt nicht pauschal für Bilder, Audio, Video oder sämtliche Marketingtexte. Redaktionelle Kontrolle muss tatsächlich stattfinden und sollte durch Verantwortlichkeit und Freigabespuren belegbar sein.

• Deepfake-Eigenschaft und Veröffentlichungskontext prüfen
• Künstlerische Erleichterung angemessen umsetzen
• Menschliche Kontrolle bei öffentlichen Texten belegen

Quellen: [1] [2]

Umsetzung, Timing und Qualitätssicherung

Rechtsstand 16. September 2026: Art. 50 ist grundsätzlich seit 2. August 2026 anwendbar. Die Verschiebung der Hochrisikoanforderungen durch Verordnung (EU) 2026/1744 hat diese Transparenzpflichten nicht generell verschoben. Nur für vor dem 2. August 2026 in Verkehr gebrachte Systeme besteht bei Art. 50 Abs. 2 die Übergangsfrist bis 2. Dezember 2026. Veröffentlichungs- und Produktteams müssen diesen engen Anwendungsbereich sichtbar halten.

Ein Umsetzungsregister sollte je System Rolle, Inhaltstyp, Zielgruppe, Pflicht, Ausnahme, technische Maßnahme, sichtbaren Hinweis, Tests und Verantwortliche enthalten. Die Kommissionsleitlinien vom Juli 2026 sind praktische, nicht rechtsverbindliche Auslegungshilfe. Zusätzlich sind DSGVO, DSA, Medien-, Verbraucher-, Urheber-, Kennzeichen- und Persönlichkeitsrecht zu prüfen. Stichprobentests nach Produktupdates und neuen Exportformaten sind nötig, weil Kennzeichnungen bei Bearbeitung oder Plattformübertragung verloren gehen können.

• Art. 50 seit 2. August 2026 operativ umsetzen
• Altsysteme für Abs. 2 bis 2. Dezember 2026 anpassen
• Kennzeichnung über reale Veröffentlichungsketten testen

Quellen: [1] [4] [3]

Häufige Fragen