Artikel 15 für autonome Systeme: Genauigkeit, Robustheit und Cybersicherheit

Artikel 15 enthält Auslegungsanforderungen für den Anbieter. Er nennt für keinen Sektor einen Genauigkeitswert.

• Art. 15(1)
  Angemessenes Maß über den gesamten Lebenszyklus

  Hochrisiko-KI-Systeme müssen so konzipiert und entwickelt werden, dass sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen und in dieser Hinsicht während ihres gesamten Lebenszyklus beständig funktionieren.

• Art. 15(2)
  Benchmarks fördert die Kommission

  Die Kommission fördert gegebenenfalls in Zusammenarbeit mit Interessenträgern wie Metrologie- und Benchmarking-Behörden die Entwicklung von Benchmarks und Messmethoden. Das ist keine Pflicht des Anbieters.

• Art. 15(3)
  Maße und Metriken angeben

  Die Maße an Genauigkeit und die relevanten Genauigkeitsmetriken müssen in den beigefügten Betriebsanleitungen angegeben werden.

• Art. 15(4)
  Widerstandsfähigkeit gegen Fehler und Rückkopplungsschleifen

  Systeme müssen so widerstandsfähig wie möglich gegenüber Fehlern, Störungen oder Unstimmigkeiten im System oder in seiner Umgebung sein, insbesondere wegen der Interaktion mit natürlichen Personen oder anderen Systemen. Es sind technische und organisatorische Maßnahmen zu ergreifen; technische Redundanz, Sicherungs- oder Störungssicherheitspläne sind als Möglichkeiten genannt. Ein System, das nach dem Inverkehrbringen weiterlernt, ist so zu entwickeln, dass das Risiko verzerrter Ausgaben, die künftige Vorgänge beeinflussen (Rückkopplungsschleifen), beseitigt oder so gering wie möglich gehalten wird.

• Art. 15(5)
  Cybersicherheit gegen unbefugte Dritte

  Systeme müssen widerstandsfähig gegen Versuche unbefugter Dritter sein, ihre Verwendung, Ausgaben oder Leistung durch Ausnutzung von Schwachstellen zu verändern. Die technischen Lösungen umfassen gegebenenfalls Maßnahmen gegen Data Poisoning, Model Poisoning, Adversarial Examples oder Model Evasion, Angriffe auf vertrauliche Daten und Modellmängel.

Artikel 15 bindet nur Hochrisiko-KI-Systeme. Die Zeilen unten zeigen, welche autonomen Systeme er erreicht und welche nicht.

• „Autonome Systeme“ ist keine Kategorie der Verordnung

  Die Verordnung kennt keine Kategorie „autonome Systeme“; ihre Definition eines KI-Systems verweist auf einen Betrieb mit unterschiedlichen Graden der Autonomie (Artikel 3 Nummer 1). Diese Website verwendet den Begriff für KI in Fahrzeugen, Drohnen, Robotern und Maschinen sowie für KI, die den Straßenverkehr steuern hilft. Solche KI kann über drei Wege hochriskant sein, und der Weg entscheidet, welche Hochrisiko-Vorschriften gelten: Anhang I Abschnitt B (Artikel 2 Absatz 2 beschränkt die Vorschriften auf wenige Artikel), Anhang I Abschnitt A (die Anforderungen des Kapitels III ab dem 2. August 2028, wenn das System nach Artikel 6 Absatz 1 hochriskant ist) und Anhang III Nummer 2 (die Anforderungen des Kapitels III ab dem 2. Dezember 2027). Andere Vorschriften hängen nicht vom Weg ab: die Artikel 4 und 5, Artikel 50, Artikel 53 für Modellanbieter und die übrigen Nummern des Anhangs III. Artikel 2 Absatz 2 beschränkt nur KI-Systeme, die nach Artikel 6 Absatz 1 hochriskant sind und Produkte nach Abschnitt B betreffen. Bestimmen Sie zuerst Ihren Hochrisiko-Weg.

• Fahrzeuge, Luftfahrzeuge, Eisenbahn, Schiffsausrüstung und Maschinen: Anhang I Abschnitt B

  Abschnitt B von Anhang I nennt unter anderem Kraftfahrzeuge (Verordnungen (EU) 2018/858 und (EU) 2019/2144), zwei- oder dreirädrige Fahrzeuge (Verordnung (EU) Nr. 168/2013), land- und forstwirtschaftliche Fahrzeuge (Verordnung (EU) Nr. 167/2013), das Eisenbahnsystem (Richtlinie (EU) 2016/797), Schiffsausrüstung (Richtlinie 2014/90/EU), unbemannte Luftfahrzeuge sowie deren Motoren, Propeller, Teile und Ausrüstung zur Fernsteuerung, soweit die Verordnung (EU) 2018/1139 sie erfasst, und Maschinen (Verordnung (EU) 2023/1230, durch die Verordnung (EU) 2026/1744 von Abschnitt A nach Abschnitt B verschoben). Für ein KI-System, das nach Artikel 6 Absatz 1 hochriskant ist und ein solches Produkt betrifft, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112 (Artikel 2 Absatz 2); die Artikel 57, 58 und 59 gelten nur, soweit die Anforderungen an Hochrisiko-KI-Systeme in jene Harmonisierungsrechtsvorschriften der Union aufgenommen wurden. Die Artikel 9 bis 15, 17 und 26 gehören nicht dazu. Stattdessen fügen die Artikel 102 bis 109 acht dieser Rechtsakte eine Regel hinzu, nach der die Kommission die Anforderungen aus Kapitel III Abschnitt 2 berücksichtigt, wenn sie die dort genannten Rechtsakte für KI-Systeme erlässt. Für Maschinen verpflichtet Artikel 3 Nummer 1 der Verordnung (EU) 2026/1744 die Kommission, delegierte Rechtsakte zu erlassen, die Gesundheits- und Sicherheitsanforderungen für solche KI-Systeme hinzufügen und dabei Kapitel III Abschnitt 2 sowie die Artikel 17, 19, 72 und 73 widerspiegeln; diese Rechtsakte sollen spätestens ab dem 2. August 2028 gelten.

• Produkte nach Abschnitt A und Anhang III Nummer 2: Kapitel III gilt

  Zwei Anknüpfungspunkte lösen die Anforderungen des Kapitels III aus. Erstens ist ein KI-System nach Artikel 6 Absatz 1 hochriskant, wenn es als Sicherheitsbauteil eines unter Rechtsvorschriften des Anhangs I fallenden Produkts verwendet werden soll oder selbst ein solches Produkt ist und dieses Produkt nach diesen Rechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden muss. Abschnitt A (Nummern 2 bis 12) erfasst zum Beispiel Aufzüge, Seilbahnen, Sportboote und Medizinprodukte; für solche Systeme gilt Kapitel III ab dem 2. August 2028 (Artikel 113 Buchstabe c Ziffer ii). Ein Sicherheitsbauteil ist ein Bauteil, das eine Sicherheitsfunktion erfüllt oder dessen Ausfall oder Fehlfunktion die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet (Artikel 3 Nummer 14); KI, die ausschließlich für sicherheitsfremde Aspekte wie Leistungsoptimierung, Automatisierung oder Bequemlichkeit verwendet wird, zählt nicht dazu, KI, deren Ausfall Gesundheit und Sicherheit gefährden würde, aber schon (Artikel 6 Absätze 1a und 1b). Ein Produkt, das nur wegen anderer Risiken als Gesundheit und Sicherheit, etwa Funkfrequenznutzung oder elektromagnetischer Störungen ohne Auswirkung auf Gesundheit und Sicherheit, einer Konformitätsbewertung durch Dritte unterliegt, erfüllt diese Bedingung nicht (Artikel 6 Absatz 1c); das betrifft zum Beispiel Funkanlagen (Nummer 6). Zweitens erfasst Anhang III Nummer 2 KI-Systeme, die bestimmungsgemäß als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung verwendet werden sollen; für sie gilt Kapitel III ab dem 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Nach ihrem Wortlaut nennt Nummer 2 die Verwaltung und den Betrieb des Straßenverkehrs, nicht Fahrzeuge.

• Anbieter und Betreiber

  Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Bei einem Hochrisiko-KI-System, das Sicherheitsbauteil eines Produkts nach Abschnitt A ist, gilt der Produkthersteller als Anbieter, wenn das System zusammen mit dem Produkt unter dem Namen oder der Handelsmarke des Herstellers in Verkehr gebracht wird oder nach dem Inverkehrbringen des Produkts unter diesem Namen oder dieser Handelsmarke in Betrieb genommen wird (Artikel 25 Absatz 3). Artikel 15 ist eine Auslegungspflicht des Anbieters. Wer ein System als Flotten-, Anlagen- oder Verkehrsbetreiber nur verwendet, ist Betreiber (Artikel 3 Nummer 4) und hat keine Pflicht nach Artikel 15; ein Betreiber wird in den Fällen des Artikels 25 Absatz 1 zum Anbieter.

• Termine

  Systeme nach Anhang III Nummer 2 müssen Kapitel III ab dem 2. Dezember 2027 erfüllen, Systeme nach Abschnitt A ab dem 2. August 2028 (Artikel 113 Buchstabe c). Für Systeme nach Abschnitt B gilt kein Termin für die Artikel 9 bis 15, 17 und 26, weil diese Artikel für sie nicht gelten; nach Artikel 113 Buchstabe c Ziffer ii gilt Kapitel III Abschnitte 1 bis 3, zu denen Artikel 6 gehört, für Systeme nach Anhang I ab dem 2. August 2028, und die Artikel 102 bis 110 gelten seit dem 27. Juli 2026 (Artikel 113 Buchstabe c Ziffer ii und Buchstabe d). Ein System, das vor dem Geltungsbeginn von Kapitel III in Verkehr gebracht oder in Betrieb genommen wurde, ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).

• Geldbußen

  Verstöße gegen die Anbieterpflichten nach Artikel 16 und die Betreiberpflichten nach Artikel 26 können mit Geldbußen von bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU, einschließlich Start-up-Unternehmen, ist jede Geldbuße auf den niedrigeren Betrag begrenzt (Artikel 99 Absatz 6). Dieselbe Obergrenze gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat legt Vorschriften dafür fest, inwieweit gegen Behörden und öffentliche Stellen, die in diesem Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8). Artikel 99 gehört nicht zu den Vorschriften, die nach Artikel 2 Absatz 2 für KI-Systeme gelten, die nach Artikel 6 Absatz 1 hochriskant sind und Produkte des Abschnitts B betreffen.

• Grenzen des Anwendungsbereichs der Verordnung

  Die Verordnung gilt für Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in der Union in Verkehr bringen, unabhängig davon, wo sie niedergelassen sind (Artikel 2 Absatz 1 Buchstabe a), sowie für Anbieter und Betreiber in einem Drittland, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Buchstabe c). Sie gilt nicht für Bereiche außerhalb des Unionsrechts und berührt nicht die Zuständigkeiten der Mitgliedstaaten für die nationale Sicherheit; sie gilt auch nicht für KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden (Artikel 2 Absatz 3). Die Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6). Sie gilt auch nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System oder Modell in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen sind von dieser Ausnahme nicht erfasst (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-Systeme, die unter Artikel 5 oder 50 fallen, in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12).

• Keine Genauigkeitswerte für autonome Systeme

  Artikel 15 nennt für keinen Sektor eine Genauigkeitsmetrik, einen Mindestwert, eine Prüfmethode oder eine Norm, auch nicht für autonome Systeme. Der Anbieter gibt die Genauigkeitsgrade und die relevanten Metriken an (Artikel 15 Absatz 3). Harmonisierte Normen, deren Fundstellen im Amtsblatt veröffentlicht sind, begründen eine Konformitätsvermutung, soweit sie die Anforderungen abdecken (Artikel 40 Absatz 1); eine veröffentlichte Cybersicherheitszertifizierung nach der Verordnung (EU) 2019/881 begründet sie für die Anforderungen an die Cybersicherheit, soweit sie diese abdeckt (Artikel 42 Absatz 2). Systeme, die in den Anwendungsbereich der Verordnung (EU) 2024/2847 fallen und die Bedingungen des Artikels 12 Absatz 1 jener Verordnung erfüllen, gelten als konform mit den Cybersicherheitsanforderungen des Artikels 15 (Artikel 42 Absatz 3). Die Kommission arbeitet Leitlinien zur Anwendung der Anforderungen und Pflichten der Artikel 8 bis 15 sowie 25 und 26 aus (Artikel 96 Absatz 1 Buchstabe a).

• Branchennormen und Typgenehmigungsregeln sind keine Pflichten der Verordnung

  Die Verordnung nennt keine ISO-, UNECE- oder sonstige Branchennorm. Welche Regeln zu Genauigkeit, Robustheit oder Cybersicherheit ein Produkt nach Abschnitt B erfüllen muss, bestimmt sein Branchenrecht, nicht Artikel 15; die Verordnung lässt andere Rechtsakte der Union zum Verbraucherschutz und zur Produktsicherheit unberührt (Artikel 2 Absatz 9). Die Kommission erarbeitet Leitlinien zum Verhältnis der Verordnung zu den Harmonisierungsrechtsvorschriften der Union nach Anhang I und zu sonstigem einschlägigem Unionsrecht (Artikel 96 Absatz 1 Buchstabe e).

• Abschnitt A: Anforderungen können eingeschränkt werden (Artikel 2 Absatz 13)

  Bei Hochrisiko-KI-Systemen nach Artikel 6 Absatz 1 kann die Anwendung einzelner Anforderungen oder Pflichten aus den Artikeln 9 bis 15 und 17 bis 25 eingeschränkt werden, soweit Harmonisierungsrechtsvorschriften der Union nach Abschnitt A von Anhang I Anforderungen oder Pflichten mit einem gleichwertigen oder höheren Schutzniveau enthalten und die Einschränkung das Gesamtschutzniveau nach der Verordnung nicht verringert (Artikel 2 Absatz 13). Die Kommission erlässt bis zum 2. August 2027 delegierte Rechtsakte, die die betroffenen Systeme, die einschränkbaren Anforderungen, die Bedingungen und den Umfang festlegen. Nach unserer Lesart von Artikel 2 Absatz 13 sagt die Verordnung selbst nicht, welche Anforderungen bei einem bestimmten Produkt nach Abschnitt A eingeschränkt sind; das sollen die delegierten Rechtsakte tun; fragen Sie Rechtsberatung.

• Beispiel: angegebene Metriken für ein Verkehrssteuerungs-Bauteil

  Beispiel, keine Vorgabe der Verordnung: Der Anbieter eines Sicherheitsbauteils für die Straßenverkehrssteuerung könnte angeben, welche Genauigkeitsmetriken er gemessen hat und unter welchen Straßen-, Sensor- und Wetterbedingungen.

• Beispiel: das ausfallsichere Verhalten dokumentieren

  Beispiel, keine Vorgabe der Verordnung: Ein Anbieter könnte dokumentieren, was das System tut, wenn ein Sensor ausfällt oder seine Eingaben unplausibel sind, etwa indem es die Steuerung an Logik ohne KI übergibt; so ließen sich die in Artikel 15 Absatz 4 genannten Ausfallsicherungspläne beschreiben.

• Artikel 15 KI-Verordnung: Genauigkeit, Robustheit und Cybersicherheit

  Artikel 15 für alle Sektoren: Anforderungen, Termine und Geldbußen.

• KI-Verordnung autonome Systeme: Compliance

  Die Übersicht zu autonomen Systemen: welche Anknüpfungspunkte der Verordnung für Fahrzeuge, Luftfahrzeuge, Maschinen und Verkehrs-KI gelten.

• Artikel 17 für autonome Systeme: Qualitätsmanagementsystem

  Autonome Systeme und Artikel 17: das Qualitätsmanagementsystem und wer Anbieter ist.

• Hochrisiko-KI-Systeme nach Anhang I: der Produktsicherheitsweg

  Anhang I: welche KI-Systeme in regulierten Produkten hochriskant sind, mit Abschnitt A und Abschnitt B.