Skip to main content

Artikel 50: Transparenz- und Offenlegungspflichten

Artikel 50 der KI-Verordnung: Wer Chatbots offenlegen, KI-Inhalte kennzeichnen und Deepfakes beschriften muss, seit wann, mit Ausnahmen und Geldbußen.

Anbieter und Betreiber müssen den Einsatz von KI offenlegen (Artikel 50). Das gilt für Systeme, die mit Menschen interagieren, synthetische Inhalte erzeugen, Emotionen erkennen oder Deepfakes erzeugen.

Seit dem 2. August 2026 gelten die Pflichten für KI-Systeme in der EU, unabhängig von ihrer Risikoklasse. Anbieter generativer KI-Systeme, die früher in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit, ihre Ausgaben zu kennzeichnen. Geldbußen betragen bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99). Für KMU und kleine Midcap-Unternehmen ist der niedrigere Betrag die Obergrenze. Nächster Schritt: Prüfen Sie, welche der vier Pflichten für Ihr System gilt.

Artikel 50 Absätze 1 bis 4 enthalten vier Pflichten: zwei für Anbieter, zwei für Betreiber

Anbieter: Menschen mitteilen, dass sie mit einem KI-System interagieren

KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, etwa Chatbots, müssen so gestaltet sein, dass die Personen wissen, dass sie mit einem KI-System interagieren. Das ist nicht nötig, wenn es für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist. Gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene KI-Systeme sind ausgenommen, wenn geeignete Schutzvorkehrungen für die Rechte Dritter bestehen. Die Ausnahme gilt nicht für Systeme, die der Öffentlichkeit zur Anzeige einer Straftat zur Verfügung stehen (Artikel 50 Absatz 1).

Anbieter: erzeugte Inhalte so kennzeichnen, dass Maschinen sie erkennen

Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, einschließlich KI-Systemen mit allgemeinem Verwendungszweck, müssen die Ausgaben in einem maschinenlesbaren Format kennzeichnen. Die Kennzeichnung muss die Ausgaben als künstlich erzeugt oder manipuliert erkennbar machen. Die technische Lösung muss soweit technisch möglich wirksam, interoperabel, belastbar und zuverlässig sein; Kosten und Stand der Technik sind zu berücksichtigen. Die Pflicht gilt nicht für Systeme, die nur bei der Standardbearbeitung unterstützen oder die Eingabedaten und deren Semantik nicht wesentlich verändern. Sie gilt auch nicht, wenn das Gesetz die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zulässt (Artikel 50 Absatz 2).

Betreiber: von Emotionserkennung oder biometrischer Kategorisierung betroffene Personen informieren

Ein Emotionserkennungssystem dient dazu, Emotionen oder Absichten auf der Grundlage biometrischer Daten festzustellen oder daraus abzuleiten (Artikel 3 Nummer 39). Ein System zur biometrischen Kategorisierung ordnet Personen auf der Grundlage biometrischer Daten bestimmten Kategorien zu (Artikel 3 Nummer 40). Ein solches System liegt nicht vor, wenn die Kategorisierung eine Nebenfunktion eines anderen kommerziellen Dienstes und aus objektiven technischen Gründen unbedingt notwendig ist. Betreiber solcher Systeme müssen die betroffenen Personen über den Betrieb des Systems informieren. Sie müssen personenbezogene Daten gemäß der DSGVO (Verordnung (EU) 2016/679), der Verordnung (EU) 2018/1725 und der Richtlinie (EU) 2016/680 verarbeiten, soweit anwendbar. Ausgenommen sind Systeme, die das Gesetz zur Aufdeckung, Verhütung oder Ermittlung von Straftaten zulässt, wenn geeignete Schutzvorkehrungen für Dritte bestehen (Artikel 50 Absatz 3). Neben dieser Pflicht stehen zwei Verbote. Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen ist verboten, außer aus medizinischen oder Sicherheitsgründen (Artikel 5 Absatz 1 Buchstabe f). Biometrische Kategorisierung zum Ableiten von Rasse, politischen Meinungen, Gewerkschaftszugehörigkeit, religiösen oder weltanschaulichen Überzeugungen, Sexualleben oder sexueller Ausrichtung ist mit begrenzten Ausnahmen verboten (Artikel 5 Absatz 1 Buchstabe g).

Betreiber: Deepfakes und KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse offenlegen

Ein Deepfake ist ein durch KI erzeugter oder manipulierter Bild-, Ton- oder Videoinhalt, der wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähnelt. Eine Person würde ihn fälschlicherweise für echt oder wahrheitsgemäß halten (Artikel 3 Nummer 60). Betreiber müssen offenlegen, dass solche Inhalte künstlich erzeugt oder manipuliert wurden. Bei einem offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werk beschränkt sich die Pflicht darauf, das Vorhandensein solcher Inhalte offenzulegen. Die Darstellung oder der Genuss des Werks darf dadurch nicht beeinträchtigt werden. Betreiber müssen außerdem KI-erzeugte Texte offenlegen, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Das gilt nicht, wenn Menschen den Text überprüft oder redigiert haben und eine Person die redaktionelle Verantwortung für die Veröffentlichung trägt. Ausgenommen sind Verwendungen, die gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassen sind (Artikel 50 Absatz 4).

Hinweise müssen klar sein und die Personen beim ersten Kontakt erreichen

Die Informationen müssen den betroffenen Personen spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung in klarer und eindeutiger Weise bereitgestellt werden. Sie müssen den geltenden Barrierefreiheitsanforderungen entsprechen (Artikel 50 Absatz 5). Artikel 50 ersetzt weder die Anforderungen an Hochrisiko-KI-Systeme noch andere Transparenzpflichten nach Unionsrecht oder nationalem Recht (Artikel 50 Absatz 6).

Die Kommission fördert Praxisleitfäden für das Erkennen, Kennzeichnen und Beschriften KI-erzeugter Inhalte. Hält sie einen Leitfaden für unzureichend, kann sie einen Durchführungsrechtsakt mit gemeinsamen Vorschriften erlassen (Artikel 50 Absatz 7).

Die Pflichten gelten seit dem 2. August 2026; für die Kennzeichnung gilt eine Übergangsfrist bis zum 2. Dezember 2026

Artikel 50 gilt ab dem 2. August 2026 (Artikel 113). Anbieter generativer KI-Systeme, die vor diesem Datum in Verkehr gebracht wurden, müssen bis zum 2. Dezember 2026 die erforderlichen Schritte unternehmen, um Artikel 50 Absatz 2 einzuhalten. Diese Übergangsfrist ergibt sich aus Artikel 111 Absatz 4, eingefügt durch die Verordnung (EU) 2026/1744.

Die Übergangsfrist betrifft nur die Kennzeichnungspflicht nach Artikel 50 Absatz 2 und nur Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden. Für die Pflichten nach Artikel 50 Absätze 1, 3 und 4 gibt es keine Übergangsfrist.

Einige Systeme fallen nicht unter Artikel 50

Die Verordnung gilt nicht für KI-Systeme, wenn und soweit sie ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden. Das gilt auch für das Inverkehrbringen und die Inbetriebnahme zu diesen Zwecken (Artikel 2 Absatz 3). Sie gilt nicht für KI-Systeme oder -Modelle, die eigens und ausschließlich für Zwecke der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6). Sie gilt nicht für Forschungs-, Test- und Entwicklungstätigkeiten zu KI-Systemen oder -Modellen, bevor diese in Verkehr gebracht oder in Betrieb genommen werden (Artikel 2 Absatz 8). Tests unter Realbedingungen fallen nicht unter diese Ausnahme. Sie gilt nicht für Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10). Für KI-Systeme, die nach Artikel 6 Absatz 1 hochriskant sind und Produkte nach Anhang I Abschnitt B betreffen, gilt die Verordnung nur teilweise (Artikel 2 Absatz 2). Es gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112. Die Artikel 57, 58 und 59 gelten nur, soweit die Anforderungen an Hochrisiko-KI-Systeme in diese Rechtsvorschriften integriert wurden. Freie und quelloffene KI-Systeme bleiben von Artikel 50 erfasst (Artikel 2 Absatz 12).

Geldbußen betragen bis zu 15 Mio. EUR oder 3 % des weltweiten Umsatzes

Verstöße gegen Artikel 50 können mit Geldbußen von bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % ihres gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe g). Für KMU, einschließlich Start-up-Unternehmen, und für kleine Midcap-Unternehmen (Unternehmen, die der KMU-Definition entwachsen sind, Artikel 3 Nummer 14b) ist der niedrigere Betrag die Obergrenze (Artikel 99 Absätze 6 und 6a). Ein kleines Midcap-Unternehmen wird in Artikel 3 Nummer 14b unter Verweis auf Nummer 2 des Anhangs der Empfehlung (EU) 2025/1099 definiert, die Obergrenzen für die Größe festlegt.

Für KI-Systeme, die ein Anbieter auf seinem eigenen KI-Modell mit allgemeinem Verwendungszweck aufbaut, und für KI-Systeme sehr großer Online-Plattformen und Suchmaschinen beaufsichtigt und vollstreckt allein das KI-Büro. Ausnahmen für die erste Art nennt Artikel 75 Absatz 1 Buchstabe a. Für Betreiber ist das KI-Büro nur zuständig, wenn sie zugleich Anbieter sind.

Was Scanara für Artikel 50 leistet

Eine geführte Bewertung zu Artikel 50

Scanara führt Sie für Ihr System durch die vier Pflichten und hält Ihre Antworten fest. Sie entscheiden, welche Pflichten gelten, bei hohem Risiko mit rechtlicher Beratung.

Regelbasierte Code-Prüfungen

Der Code-Scan von Scanara wendet Regeln für Offenlegungsmechanismen in Chat-Oberflächen und Aufrufen generativer KI an. Er erkennt Standardmuster gängiger Frameworks und kann nicht standardisierten Code übersehen.

Vorlagen für Offenlegungsdokumente

Scanara erzeugt aus Vorlagen Offenlegungsdokumente zu Artikel 50, teilweise aus Ihren Antworten vorausgefüllt. Sie ergänzen sie und bringen die Hinweise in Ihr Produkt.

Häufige Fragen: interne Chatbots, „offensichtlich“ und Wasserzeichen

Gilt Artikel 50 für interne Chatbots, die nur Beschäftigte nutzen?

Ja, wenn der Chatbot ein KI-System ist, das für die direkte Interaktion mit natürlichen Personen bestimmt ist, Beschäftigte eingeschlossen. Der Hinweis ist nicht nötig, wenn es für eine angemessen informierte, aufmerksame und verständige Person aufgrund der Umstände und des Nutzungskontexts offensichtlich ist (Artikel 50 Absatz 1). Eine klare Kennzeichnung in der Oberfläche hilft, maßgeblich ist aber, was für diese Person offensichtlich ist.

Was gilt als „aufgrund der Umstände und des Nutzungskontexts offensichtlich“?

Das Gesetz kennt einen Maßstab: Es muss aus Sicht einer angemessen informierten, aufmerksamen und verständigen natürlichen Person unter Berücksichtigung der Umstände und des Nutzungskontexts offensichtlich sein (Artikel 50 Absatz 1). Beispiele nennt es nicht. Wie Marktüberwachungsbehörden und Gerichte den Maßstab anwenden, ist offen; im Zweifel offenlegen.

Muss die maschinenlesbare Kennzeichnung Bearbeitung oder Komprimierung überstehen?

Artikel 50 Absatz 2 verlangt Lösungen, die soweit technisch möglich wirksam, interoperabel, belastbar und zuverlässig sind. Berücksichtigt werden die Beschränkungen der Inhaltsarten, die Kosten und der Stand der Technik. Das Gesetz nennt weder eine Technik noch einen Test auf Beständigkeit; dokumentieren Sie daher, welche Technik Sie gewählt und wie Sie sie getestet haben.

Muss ein System, das vor dem 2. August 2026 in Verkehr gebracht wurde, kennzeichnen?

Ja, aber später: bis zum 2. Dezember 2026 (Artikel 111 Absatz 4). Das gilt für Anbieter generativer KI-Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden und Artikel 50 Absatz 2 einhalten müssen. Systeme, die ab dem 2. August 2026 in Verkehr gebracht werden, müssen die Pflicht beim Inverkehrbringen erfüllen.

Die Einzelheiten zu verwandten Pflichten

Scanara bereitet Nachweise aus Ihren Repositorien vor

Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.