Artikel 50 für KI in kritischer Infrastruktur: Transparenz und Offenlegung

Jeder Absatz nennt, wer offenlegen muss. Jeder hat auch eine Ausnahme für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene Verwendungen; die Absätze 1 und 3 knüpfen Bedingungen daran.

• Art. 50(1)
  Systeme, die mit Menschen interagieren (Anbieter)

  Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren, dass diese Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich.

• Art. 50(2)
  Synthetische Ausgaben kennzeichnen (Anbieter)

  Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht gilt nicht, soweit das System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten oder deren Semantik nicht wesentlich verändert.

• Art. 50(3)
  Emotionserkennung und biometrische Kategorisierung (Betreiber)

  Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten nach dem geltenden Datenschutzrecht verarbeiten.

• Art. 50(4)
  Deepfakes und veröffentlichte Texte (Betreiber)

  Betreiber eines Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dasselbe gilt für Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, der Text wurde menschlich überprüft oder redaktionell kontrolliert und eine Person trägt die redaktionelle Verantwortung. Bei einem offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werk beschränkt sich die Pflicht darauf, das Vorhandensein der erzeugten Inhalte so offenzulegen, dass Darstellung oder Genuss des Werks nicht beeinträchtigt werden.

• Art. 50(5)
  Wie und wann informiert wird

  Die Informationen müssen klar und eindeutig sein, spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen (Artikel 50 Absatz 5).

Entscheidend ist, was das System tut, nicht in welchem Anhang es steht.

• Die Verordnung kennt keine sektorweite Regelung für kritische Infrastruktur

  Die Verordnung kennt keine sektorweite Regelung für kritische Infrastruktur. Diese Website verwendet den Begriff für KI in der Strom-, Gas-, Wärme- und Wasserversorgung, im Straßenverkehr und in der digitalen Infrastruktur. Artikel 50 hängt nicht von einem Sektor oder Anhang ab: Er gilt für das, was ein System tut, gleich ob es hochriskant ist oder nicht.

• Hochrisiko-KI-Systeme tragen beide Pflichtenbündel

  Ein System, das nach Anhang III Nummer 2 hochriskant ist und zusätzlich eine Chat-Schnittstelle hat, trägt die Pflichten aus Artikel 50 seit dem 2. August 2026 und die Pflichten aus Kapitel III ab dem 2. Dezember 2027. Artikel 50 lässt die Anforderungen und Pflichten nach Kapitel III unberührt (Artikel 50 Absatz 6).

• Beispiele nach Absatz

  Beispiel: Ein Kunden-Chatbot eines Energie- oder Wasserversorgers oder ein Assistent, der Fragen des Leitstandspersonals beantwortet, interagiert direkt mit natürlichen Personen (Artikel 50 Absatz 1). Beispiel: Ein Werkzeug, das Berichte, Bilder oder Sprachnachrichten erzeugt, erzeugt synthetische Inhalte und unterliegt der Kennzeichnungspflicht des Anbieters (Artikel 50 Absatz 2); ein Versorger, der es nur verwendet, ist Betreiber, und seine Pflichten ergeben sich, soweit sie greifen, aus Artikel 50 Absätze 3 und 4, nicht aus Absatz 2.

• Termine

  Artikel 113 lässt die Verordnung ab dem 2. August 2026 gelten; Kapitel IV mit Artikel 50 gehört nicht zu den Bestimmungen, für die die Buchstaben a bis d einen anderen Termin nennen. Anbieter von Systemen, die synthetische Inhalte erzeugen und vor diesem Termin in Verkehr gebracht wurden, müssen die erforderlichen Schritte unternehmen, um Artikel 50 Absatz 2 bis zum 2. Dezember 2026 einzuhalten (Artikel 111 Absatz 4). Für Artikel 50 Absätze 1, 3 und 4 sieht die Verordnung keine Übergangsfrist vor.

• Geldbußen

  Verstöße gegen die Transparenzpflichten für Anbieter und Betreiber nach Artikel 50 können mit Geldbußen von bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe g). Für KMU, einschließlich Start-up-Unternehmen, ist jede Geldbuße auf den niedrigeren Betrag begrenzt (Artikel 99 Absatz 6). Dieselbe Obergrenze gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat legt Vorschriften dafür fest, inwieweit gegen Behörden und öffentliche Stellen, die in diesem Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8).

• Grenzen des Anwendungsbereichs der Verordnung

  Die Verordnung gilt für Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in der Union in Verkehr bringen, unabhängig davon, wo sie niedergelassen sind (Artikel 2 Absatz 1 Buchstabe a), sowie für Anbieter und Betreiber in einem Drittland, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Buchstabe c). Sie gilt nicht für Bereiche außerhalb des Unionsrechts und berührt nicht die Zuständigkeiten der Mitgliedstaaten für die nationale Sicherheit; sie gilt auch nicht für KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden (Artikel 2 Absatz 3). Die Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6). Sie gilt auch nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System oder Modell in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen sind von dieser Ausnahme nicht erfasst (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-Systeme, die unter Artikel 5 oder 50 fallen, in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12). Natürliche Personen, die ein System im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden, sind als Betreiber nicht gebunden (Artikel 2 Absatz 10).

• Keine Regel für kritische Infrastruktur, kein Kennzeichnungsformat

  Artikel 50 enthält keine Regel für kritische Infrastruktur. Er nennt weder Wortlaut noch Symbol; die Kennzeichnungspflicht verlangt ein maschinenlesbares Format und Erkennbarkeit unter Berücksichtigung des allgemein anerkannten Stands der Technik, wie er sich in einschlägigen technischen Normen widerspiegeln kann (Artikel 50 Absatz 2). Die Kommission arbeitet Leitlinien zu Artikel 50 aus (Artikel 96 Absatz 1 Buchstabe d).

• Praxisleitfäden

  Die Kommission fördert und erleichtert Verhaltenskodizes zur Erkennung, Kennzeichnung und Etikettierung künstlich erzeugter Inhalte und prüft, ob die Einhaltung eines Kodex ausreicht, um die Einhaltung von Artikel 50 Absätze 2 und 4 zu gewährleisten. Hält sie einen Kodex für unzureichend, kann sie einen Durchführungsrechtsakt mit gemeinsamen Vorschriften erlassen (Artikel 50 Absatz 7). Die Einhaltung ist durch den Artikel nicht vorgeschrieben.

• Menschliche Überprüfung

  Die Ausnahme für menschliche Überprüfung oder redaktionelle Kontrolle steht in Artikel 50 Absatz 4, für veröffentlichten Text. Artikel 50 Absatz 2 kennt sie nicht; seine Ausnahmen sind die unterstützende Standardbearbeitung, keine wesentliche Veränderung der Eingabedaten oder ihrer Semantik und die gesetzliche Zulassung für Zwecke der Strafverfolgung.

• Keine Kennzeichnungspflicht für Alarme, Prognosen oder Berichte

  Artikel 50 nennt keine Pflicht speziell für Alarme, Prognosen, Arbeitsaufträge oder Betriebsberichte. Eine Offenlegungspflicht des Betreibers entsteht nur in den Fällen von Artikel 50 Absatz 3 (Emotionserkennung und biometrische Kategorisierung) und Artikel 50 Absatz 4 (Deepfakes und veröffentlichte Texte zu Angelegenheiten von öffentlichem Interesse).

• Andere Transparenzvorschriften

  Artikel 50 gilt unbeschadet anderer Transparenzpflichten für Betreiber von KI-Systemen nach Unionsrecht oder nationalem Recht (Artikel 50 Absatz 6). Ob anderes Recht weitere Informationen an Kunden oder die Öffentlichkeit verlangt, beantwortet die Verordnung nicht.

• Artikel 50: Transparenz- und Offenlegungspflichten

  Artikel 50 für alle Sektoren: die vier Pflichten, Ausnahmen, Termine und Geldbußen.

• KI-Verordnung kritische Infrastruktur: Compliance

  Die Übersicht zu kritischer Infrastruktur: wie die Verordnung KI in Energie, Wasser, Straßenverkehr und digitaler Infrastruktur erfasst.

• Artikel 53 bei kritischer Infrastruktur: Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck

  KI für kritische Infrastruktur und Artikel 53: Modellanbieter, Dokumentation, Urheberrecht und Zusammenfassung der Trainingsdaten.

• Verbotene KI-Praktiken nach Artikel 5 der KI-Verordnung

  Die verbotenen Praktiken, darunter die Ableitung von Emotionen am Arbeitsplatz und in der Bildung.