Artikel 13 für KI in kritischer Infrastruktur: Transparenz und Betriebsanleitung

Artikel 13 legt Pflichten für den Anbieter gegenüber dem Betreiber fest. Er begründet weder eine Pflicht zur Veröffentlichung von Informationen noch eine Pflicht, einer betroffenen Person eine Entscheidung zu erläutern.

• Art. 13(1)
  Transparenz, mit der Betreiber die Ausgaben interpretieren können

  Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass ihr Betrieb hinreichend transparent ist, damit die Betreiber die Ausgaben eines Systems angemessen interpretieren und verwenden können. Die Transparenz muss auf eine geeignete Art und in einem angemessenen Maß gewährleistet werden, damit Anbieter und Betreiber ihre Pflichten nach Abschnitt 3 erfüllen können.

• Art. 13(2)
  Betriebsanleitung

  Hochrisiko-KI-Systeme müssen mit Betriebsanleitungen in einem geeigneten digitalen Format oder auf andere Weise versehen werden. Die Betriebsanleitungen müssen präzise, vollständige, korrekte und eindeutige Informationen enthalten, die für die Betreiber relevant, barrierefrei zugänglich und verständlich sind.

• Art. 13(3)(a), (b)
  Mindestinhalt: Anbieter, Leistung und Grenzen

  Die Betriebsanleitung enthält mindestens den Namen und die Kontaktangaben des Anbieters sowie die Merkmale, Fähigkeiten und Leistungsgrenzen des Systems. Dazu gehört seine Zweckbestimmung. Dazu gehört das Maß an Genauigkeit — einschließlich diesbezüglicher Metriken —, Robustheit und Cybersicherheit, für das das System getestet und validiert wurde und das zu erwarten ist. Dazu gehören auch bekannte Umstände, die sich darauf auswirken können. Dazu gehören bekannte oder vorhersehbare Umstände, die zu Risiken für Gesundheit, Sicherheit oder Grundrechte führen können. Gegebenenfalls gehören außerdem dazu die technischen Fähigkeiten zur Erläuterung der Ausgabe und die Leistung in Bezug auf bestimmte Personen oder Personengruppen. Ebenso gegebenenfalls Spezifikationen für die Eingabedaten und Informationen, die es den Betreibern ermöglichen, die Ausgabe zu interpretieren.

• Art. 13(3)(c)–(f)
  Änderungen, Aufsicht, Ressourcen und Protokolle

  Die Betriebsanleitung muss außerdem die vom Anbieter zum Zeitpunkt der ersten Konformitätsbewertung vorab bestimmten Änderungen, falls es solche gibt, sowie die Maßnahmen zur menschlichen Aufsicht nach Artikel 14 angeben. Sie muss die erforderlichen Rechen- und Hardware-Ressourcen, die erwartete Lebensdauer und die Wartungsmaßnahmen angeben, auch in Bezug auf Software-Updates. Gegebenenfalls beschreibt sie die Mechanismen, die es den Betreibern ermöglichen, die Protokolle im Einklang mit Artikel 12 zu erfassen, zu speichern und auszuwerten.

Artikel 13 gilt nur für Hochrisiko-KI-Systeme. Die folgenden Zeilen zeigen, wo KI für kritische Infrastruktur hochriskant wird.

• Kritische Infrastruktur ist ein Bereich in Anhang III, kein sektorweites Regime

  Die Verordnung kennt für Anbieter und Betreiber kein sektorweites Regime für kritische Infrastruktur. Anhang III Nummer 2 ist der Hochrisiko-Bereich mit der Überschrift „Kritische Infrastruktur“. Diese Website verwendet die Wörter für KI, die darüber unter die Verordnung fällt. Nummer 2 erfasst KI-Systeme, die bestimmungsgemäß als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung verwendet werden sollen. Artikel 3 Nummer 62 definiert „kritische Infrastruktur“ durch Verweis auf Artikel 2 Nummer 4 der Richtlinie (EU) 2022/2557. Die Verordnung definiert „kritische digitale Infrastruktur“ nicht gesondert. Nummer 2 nennt weder Eisenbahn-, Luft- oder Seeverkehr noch Häfen oder Flughäfen. Ein System für einen dieser Bereiche ist nur dann hochriskant, wenn ein anderer Punkt von Anhang III oder Anhang I es erfasst.

• Erfasst sind nur Sicherheitsbauteile

  Ein Sicherheitsbauteil ist ein Bestandteil eines Produkts oder KI-Systems, der eine Sicherheitsfunktion für dieses Produkt oder KI-System erfüllt oder dessen Ausfall oder Störung die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet. Ein Bauteil erfüllt eine Sicherheitsfunktion, wenn seine Zweckbestimmung darin besteht, Risiken für die Gesundheit und Sicherheit von Personen oder Eigentum abzuwenden oder zu mindern (Artikel 3 Nummer 14). KI-Systeme, die ausschließlich für nicht sicherheitsrelevante Aspekte der Nutzerunterstützung, Leistungsoptimierung, Leistungseffizienz, Automatisierung oder Benutzerfreundlichkeit oder Qualitätskontrolle verwendet werden, gelten nicht als Sicherheitsbauteile (Artikel 6 Absatz 1a). KI-Systeme, deren Ausfall oder Fehlfunktion Gesundheit und Sicherheit gefährden würde, gelten als Sicherheitsbauteile (Artikel 6 Absatz 1b). Artikel 6 Absatz 5 verpflichtete die Kommission, spätestens am 2. Februar 2026 Leitlinien mit einer umfassenden Liste praktischer Beispiele für hochriskante und nicht hochriskante Anwendungsfälle von KI-Systemen bereitzustellen. Erwägungsgrund 55 des Textes von 2024 beschreibt Sicherheitsbauteile kritischer Infrastruktur als Systeme, die dazu dienen, die physische Unversehrtheit kritischer Infrastruktur oder die Gesundheit und Sicherheit von Personen und Eigentum unmittelbar zu schützen, deren Vorhandensein für das Funktionieren des Systems aber nicht notwendig ist. Er sagt, dass Bauteile, die ausschließlich für Cybersicherheitszwecke verwendet werden sollen, nicht als Sicherheitsbauteile gelten sollten. Ein Erwägungsgrund ist keine verbindliche Regel. Ob ein bestimmtes Prognose-, Optimierungs- oder Wartungswerkzeug ein Sicherheitsbauteil ist, ist eine Frage für Ihre Rechtsberatung.

• Artikel 6 Absatz 3 kann ein System aus Anhang III herausnehmen

  Ein System nach Nummer 2 ist nach Artikel 6 Absatz 2 hochriskant. Nach Artikel 6 Absatz 3 gilt es nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf die Gesundheit, Sicherheit oder Grundrechte birgt. Dazu gehört, dass es das Ergebnis der Entscheidungsfindung nicht wesentlich beeinflusst. Die Verordnung wendet diese Ausnahme an, wenn eine der folgenden Bedingungen erfüllt ist (Artikel 6 Absatz 3 Buchstaben a bis d). Das System ist dazu bestimmt, eine eng gefasste Verfahrensaufgabe durchzuführen. Oder es ist dazu bestimmt, das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit zu verbessern. Oder es ist dazu bestimmt, Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern zu erkennen, und nicht dazu gedacht, die zuvor abgeschlossene menschliche Bewertung ohne eine angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen. Oder es ist dazu bestimmt, eine vorbereitende Aufgabe für eine Bewertung durchzuführen, die für die in Anhang III aufgeführten Anwendungsfälle relevant ist. Wie sich diese Bedingungen mit dem Test auf ein erhebliches Risiko verbinden, ist eine Frage für Ihre Rechtsberatung. Nimmt das System ein Profiling natürlicher Personen vor, gilt es immer als hochriskant. Profiling ist in Artikel 4 Nummer 4 DSGVO definiert (Artikel 3 Nummer 52). Ein Anbieter, der sich auf die Ausnahme beruft, dokumentiert seine Bewertung, bevor das System in Verkehr gebracht oder in Betrieb genommen wird. Er muss das System außerdem registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2).

• Produkte nach Anhang I sind ein eigener Weg

  Ein KI-System kann auch nach Artikel 6 Absatz 1 hochriskant sein. Dafür muss es Sicherheitsbauteil eines Produkts sein oder selbst ein Produkt sein, das unter die in Anhang I aufgeführten Harmonisierungsrechtsvorschriften der Union fällt und einer Konformitätsbewertung durch Dritte unterzogen werden muss. Abschnitt A von Anhang I nennt zum Beispiel Druckgeräte (Nummer 7) und Geräte zur Verbrennung gasförmiger Brennstoffe (Nummer 10). Die Anforderungen für diese Systeme gelten ab dem 2. August 2028 (Artikel 113 Buchstabe c Ziffer ii). Abschnitt B nennt zum Beispiel das Eisenbahnsystem (Nummer 17, Richtlinie (EU) 2016/797). Für Hochrisiko-KI-Systeme, die mit Produkten nach Abschnitt B zusammenhängen, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112. Die Artikel 57, 58 und 59 gelten nur, soweit die Anforderungen an Hochrisiko-KI-Systeme in diese Rechtsvorschriften aufgenommen wurden (Artikel 2 Absatz 2). Die Artikel 9 bis 15 gehören nicht zu den anwendbaren Bestimmungen.

• Anbieter und Betreiber

  Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Die Inbetriebnahme schließt die Bereitstellung zum Eigengebrauch ein (Artikel 3 Nummer 11). Ein Versorgungsunternehmen, eine Gemeinde oder eine Straßenbehörde, die ein System entwickelt und unter eigenem Namen in Betrieb nimmt, ist daher Anbieter. Wer ein System in eigener Verantwortung verwendet, ist Betreiber (Artikel 3 Nummer 4). Ein Betreiber wird in drei Fällen zum Anbieter. Er versieht ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke, unbeschadet vertraglicher Vereinbarungen, die eine andere Aufteilung der Pflichten vorsehen. Er nimmt an einem solchen System eine wesentliche Veränderung vor, durch die es ein Hochrisiko-KI-System bleibt. Oder er ändert die Zweckbestimmung eines nicht als hochriskant eingestuften Systems so, dass es hochriskant wird (Artikel 25 Absatz 1). Der Anbieter, der das System ursprünglich in Verkehr gebracht oder in Betrieb genommen hatte, gilt dann nicht mehr als Anbieter dieses spezifischen Systems und muss eng mit dem neuen Anbieter zusammenarbeiten (Artikel 25 Absatz 2). Das gilt nicht, wenn der Erstanbieter eindeutig festgelegt hat, dass sein System nicht in ein Hochrisiko-KI-System umgewandelt werden darf.

• Artikel 86 erfasst Nummer 2 nicht

  Artikel 86 Absatz 1 gibt einer betroffenen Person ein Recht auf Erläuterung einer Entscheidung, die der Betreiber auf der Grundlage der Ausgabe eines Hochrisiko-KI-Systems aus Anhang III trifft, „mit Ausnahme der in Nummer 2 aufgeführten Systeme“. Ein Betreiber eines Systems nach Nummer 2 ist daher daran nicht gebunden. Betreiber von in Anhang III genannten Hochrisiko-KI-Systemen, die Entscheidungen in Bezug auf natürliche Personen treffen oder bei solchen Entscheidungen Unterstützung leisten, müssen die natürlichen Personen darüber informieren, dass sie der Verwendung des Systems unterliegen (Artikel 26 Absatz 11).

• Termine

  Die Anforderungen für diese Verwendungen nach Anhang III gelten ab dem 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Ein System, das vor diesem Termin in Verkehr gebracht oder in Betrieb genommen wurde, ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Die Artikel 43 und 49 (Kapitel III Abschnitt 5) und die Artikel 72 und 73 (Kapitel IX) fallen nicht unter Artikel 113 Buchstabe c. Artikel 113 nennt für sie keinen eigenen Termin; nach der allgemeinen Regel gelten sie daher ab dem 2. August 2026. Wie sich das zum obigen Termin verhält, ist eine Frage für Ihre Rechtsberatung.

• Geldbußen

  Anbieter müssen sicherstellen, dass ihre Hochrisiko-KI-Systeme die Anforderungen von Kapitel III Abschnitt 2 erfüllen, zu dem die Artikel 9 bis 15 gehören (Artikel 16 Buchstabe a). Verstöße gegen die Anbieterpflichten nach Artikel 16 oder die Betreiberpflichten nach Artikel 26 können mit Geldbußen geahndet werden. Die Geldbuße beträgt bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstaben a und e). Für KMU, einschließlich Start-up-Unternehmen, gilt für jede Geldbuße der jeweils niedrigere der beiden Beträge (Artikel 99 Absatz 6). Dasselbe gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat erlässt Vorschriften darüber, in welchem Umfang gegen Behörden und öffentliche Stellen, die in dem betreffenden Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8).

• Reichweite und Grenzen der Verordnung

  Die Verordnung gilt für Anbieter und Betreiber, die ihren Sitz in einem Drittland haben oder sich in einem Drittland befinden, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Artikel 2 Absatz 1 Buchstabe c). Sie gilt nur in den unter das Unionsrecht fallenden Bereichen und berührt nicht die Zuständigkeiten der Mitgliedstaaten in Bezug auf die nationale Sicherheit (Artikel 2 Absatz 3). Sie gilt nicht für KI-Systeme, wenn und soweit sie ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit in Verkehr gebracht, in Betrieb genommen oder – mit oder ohne Änderung – verwendet werden (Artikel 2 Absatz 3). Sie gilt nicht für Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10). Die Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Artikel 2 Absatz 6). Sie gilt auch nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird. Tests unter Realbedingungen fallen nicht unter diesen Ausschluss (Artikel 2 Absatz 8). KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, fallen nicht unter die Verordnung. Dieser Ausschluss gilt nicht, wenn sie als Hochrisiko-KI-Systeme in Verkehr gebracht oder in Betrieb genommen werden oder wenn sie unter Artikel 5 oder 50 fallen (Artikel 2 Absatz 12).

• Kein Format für die Betriebsanleitung in der Infrastruktur

  Die Verordnung nennt kein Format, keine Vorlage und keinen Wortlaut für die Betriebsanleitung von Sicherheitsbauteilen in der Infrastruktur. Der Anbieter entscheidet, wie er die nach Artikel 13 Absatz 3 erforderlichen Angaben darstellt. Die Verordnung selbst nennt keine harmonisierte Norm. Bei Hochrisiko-KI-Systemen, die mit harmonisierten Normen übereinstimmen, deren Fundstellen im Amtsblatt der Europäischen Union veröffentlicht wurden, wird die Konformität mit den Anforderungen gemäß Abschnitt 2 vermutet, soweit diese Anforderungen von den Normen abgedeckt sind (Artikel 40 Absatz 1). Die Kommission erarbeitet Leitlinien für die praktische Umsetzung der Anforderungen und Pflichten nach den Artikeln 8 bis 15, 25 und 26 (Artikel 96 Absatz 1 Buchstabe a).

• Beispiel: Betriebsbedingungen in der Betriebsanleitung

  Beispiel, keine Anforderung der Verordnung: Die Betriebsanleitung eines Sicherheitsbauteils könnte die Betriebsbedingungen nennen, unter denen die Genauigkeit gemessen wurde, und die Bedingungen, unter denen man sich nicht auf seine Ausgabe verlassen sollte. Artikel 13 Absatz 3 Buchstabe b Ziffern ii und iii verlangen den getesteten Genauigkeitsgrad und die Umstände, die ihn beeinflussen oder zu Risiken führen können.

• Beispiel: das Stoppverfahren beschreiben

  Beispiel, keine Anforderung der Verordnung: Die Betriebsanleitung könnte das Stoppverfahren und den Zustand beschreiben, den das System beim Anhalten erreicht. Artikel 13 Absatz 3 Buchstabe d verlangt die Maßnahmen zur menschlichen Aufsicht nach Artikel 14.

• Artikel 13 KI-Verordnung: Transparenz und Betriebsanleitung

  Artikel 13 für alle Sektoren: Anforderungen, Termine und Geldbußen.

• KI-Verordnung kritische Infrastruktur: Compliance

  Die Übersicht zu kritischer Infrastruktur: Wie die Verordnung KI für Sicherheitsbauteile erfasst.

• Artikel 14 für KI in kritischer Infrastruktur: Menschliche Aufsicht

  KI für kritische Infrastruktur und Artikel 14: Aufsicht durch natürliche Personen und was die Verordnung nicht verlangt.

• Anhang III im Detail: Alle 8 Hochrisiko-Kategorien

  Die Kategorien in Anhang III, einschließlich Nummer 2 zu kritischer Infrastruktur.