Skip to main content

Hochrisiko-KI-Systeme nach Anhang I: der Produktsicherheitsweg

Welche KI-Systeme in regulierten Produkten nach Artikel 6 Absatz 1 hochriskant sind, welche Regeln gelten und was sich für Maschinen ändert.

Anhang I listet EU-Produktsicherheitsvorschriften auf. Anbieter von KI-Systemen, die Produkte nach diesen Vorschriften oder deren Sicherheitsbauteile sind, müssen die Anforderungen an Hochrisiko-KI-Systeme erfüllen. Das Produkt muss außerdem einer Konformitätsbewertung durch Dritte unterzogen werden (durch eine externe Stelle). Die Anforderungen gelten ab dem 2. August 2028.

Das betrifft Anhang I Abschnitt A. Für Abschnitt B, darunter Maschinen, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112. Verstöße gegen Anbieterpflichten (Artikel 16) werden mit Geldbußen belegt. Sie betragen bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4).

Prüfen Sie zuerst, ob die Rechtsvorschrift für Ihr Produkt in Abschnitt A steht.

Anhang I listet 20 Rechtsvorschriften in zwei Abschnitten, und die Abschnitte funktionieren verschieden

Abschnitt A enthält 11 Rechtsvorschriften (Nummern 2 bis 12), Abschnitt B enthält 9 (Nummern 13 bis 21).

Abschnitt A: Vorschriften auf der Grundlage des neuen Rechtsrahmens

  • Spielzeug (Richtlinie 2009/48/EG)
  • Sportboote und Wassermotorräder (Richtlinie 2013/53/EU)
  • Aufzüge und Sicherheitsbauteile für Aufzüge (Richtlinie 2014/33/EU)
  • Geräte und Schutzsysteme für explosionsgefährdete Bereiche (Richtlinie 2014/34/EU)
  • Funkanlagen (Richtlinie 2014/53/EU)
  • Druckgeräte (Richtlinie 2014/68/EU)
  • Seilbahnen (Verordnung (EU) 2016/424)
  • Persönliche Schutzausrüstungen (Verordnung (EU) 2016/425)
  • Geräte zur Verbrennung gasförmiger Brennstoffe (Verordnung (EU) 2016/426)
  • Medizinprodukte (Verordnung (EU) 2017/745)
  • In-vitro-Diagnostika (Verordnung (EU) 2017/746)

Abschnitt B: Liste anderer Harmonisierungsrechtsvorschriften der Union

  • Sicherheit in der Zivilluftfahrt (Verordnung (EG) Nr. 300/2008)
  • Zwei-, drei- und vierrädrige Fahrzeuge (Verordnung (EU) Nr. 168/2013)
  • Land- und forstwirtschaftliche Fahrzeuge (Verordnung (EU) Nr. 167/2013)
  • Schiffsausrüstung (Richtlinie 2014/90/EU)
  • Interoperabilität des Eisenbahnsystems (Richtlinie (EU) 2016/797)
  • Kraftfahrzeuge und Kraftfahrzeuganhänger (Verordnung (EU) 2018/858)
  • Typgenehmigung von Kraftfahrzeugen, allgemeine Sicherheit (Verordnung (EU) 2019/2144)
  • Zivilluftfahrt, für unbemannte Luftfahrzeuge und ihre Teile (Verordnung (EU) 2018/1139)
  • Maschinen (Verordnung (EU) 2023/1230)

Die Verordnung (EU) 2026/1744 hat die Richtlinie 2006/42/EG über Maschinen aus Abschnitt A gestrichen und die Verordnung (EU) 2023/1230 über Maschinen in Abschnitt B aufgenommen.

Konsolidierte KI-Verordnung auf EUR-Lex lesen

Ein KI-System ist nach Artikel 6 Absatz 1 nur dann ein Hochrisiko-KI-System, wenn beide Bedingungen erfüllt sind

Beide Bedingungen müssen erfüllt sein:

  1. Das KI-System ist ein Produkt, das unter eine Rechtsvorschrift aus Anhang I fällt, oder soll als Sicherheitsbauteil eines solchen Produkts verwendet werden.
  2. Dieses Produkt muss vor dem Inverkehrbringen oder der Inbetriebnahme nach der Rechtsvorschrift aus Anhang I einer Konformitätsbewertung durch Dritte unterzogen werden.

Ein Sicherheitsbauteil erfüllt eine Sicherheitsfunktion: Sein Zweck ist es, Risiken für die Gesundheit und Sicherheit von Personen oder Eigentum zu verhindern oder zu mindern (Artikel 3 Nummer 14).

Ein KI-System, das nur für nicht sicherheitsbezogene Aspekte von Nutzerunterstützung, Leistungsoptimierung, Diensteffizienz, Automatisierung, Komfort oder Qualitätskontrolle genutzt wird, ist kein Sicherheitsbauteil. Würde sein Ausfall Gesundheit und Sicherheit gefährden, ist es eines (Artikel 6 Absätze 1a und 1b).

Eine Konformitätsbewertung durch Dritte, die nur wegen anderer Risiken als Gesundheit und Sicherheit vorgeschrieben ist, erfüllt Bedingung 2 nicht. Beispiele sind die Nutzung des Funkfrequenzspektrums und elektromagnetische Störungen (Artikel 6 Absatz 1c).

Die Einstufung eines Produkts als hochriskant ändert nicht, welches Konformitätsbewertungsverfahren die Rechtsvorschrift aus Abschnitt A erlaubt (Artikel 43 Absatz 3).

Abschnitt A: Die Hochrisiko-Regeln gelten ab dem 2. August 2028

Ab dem 2. August 2028 gelten die Artikel 6 bis 27 (außer Artikel 6 Absatz 5) für KI-Systeme, die nach Artikel 6 Absatz 1 und einer Rechtsvorschrift aus Abschnitt A hochriskant sind (Artikel 113). Sie legen die Anforderungen an Hochrisiko-KI-Systeme fest (Artikel 8 bis 15) und die Pflichten von Anbietern, Betreibern und anderen Beteiligten (Artikel 16 bis 27). Systeme, die vor diesem Datum in Verkehr gebracht oder in Betrieb genommen wurden, sind nur erfasst, wenn sie danach in ihrer Konzeption erheblich verändert werden; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).

Jede Anforderung und die wichtigsten Anbieterpflichten haben einen eigenen Leitfaden:

Die Konformitätsbewertung folgt dem Verfahren der Rechtsvorschrift aus Abschnitt A, und die Anforderungen aus Kapitel III werden Teil davon (Artikel 43 Absatz 3).

Anbieter dürfen Prüfung, Berichte und Dokumentation zu diesen Anforderungen in die Unterlagen und Verfahren einbinden, die sie nach der Rechtsvorschrift aus Abschnitt A ohnehin führen (Artikel 8 Absatz 2).

Für diese Systeme können die Artikel 9 bis 15 und 17 bis 25 eingeschränkt werden, soweit eine Rechtsvorschrift aus Abschnitt A ein gleichwertiges oder höheres Schutzniveau bietet. Die Einschränkung darf das Gesamtschutzniveau nach dieser Verordnung nicht senken (Artikel 2 Absatz 13). Bis zum 2. August 2027 muss die Kommission delegierte Rechtsakte erlassen, die die betroffenen Systeme, die einschränkbaren Anforderungen, die Bedingungen und den Umfang festlegen.

Abschnitt B: Es gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112

Für ein KI-System, das nach Artikel 6 Absatz 1 hochriskant ist und zu einem Produkt nach Abschnitt B gehört, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112 (Artikel 2 Absatz 2).

Die Artikel 57, 58 und 59 (KI-Reallabore) gelten nur, soweit die Fachvorschrift die Hochrisiko-Anforderungen eingebunden hat.

Artikel 3 Absatz 1 der Verordnung (EU) 2026/1744 fügt Artikel 8 der Maschinenverordnung (EU) 2023/1230 neue Absätze hinzu. Die Kommission muss delegierte Rechtsakte erlassen, die Sicherheits- und Gesundheitsanforderungen für KI-Systeme ergänzen. Sie betreffen KI-Systeme, die nach Artikel 6 Absatz 1 hochriskant sind, weil sie Sicherheitsbauteil einer Maschine oder selbst eine Maschine sind. Diese delegierten Rechtsakte müssen bis zum 2. August 2028 gelten.

Der Anbieter muss handeln, und das kann der Produkthersteller sein

Die Verordnung gilt für Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen, unabhängig davon, wo der Anbieter niedergelassen ist (Artikel 2 Absatz 1 Buchstabe a).

Bei einem Hochrisiko-KI-System, das Sicherheitsbauteil eines Produkts aus Abschnitt A ist, gilt der Produkthersteller als Anbieter, wenn das System zusammen mit dem Produkt unter seinem Namen oder seiner Handelsmarke in Verkehr gebracht wird oder nach dem Inverkehrbringen des Produkts unter diesem Namen oder dieser Handelsmarke in Betrieb genommen wird (Artikel 25 Absatz 3).

Die Obergrenze der Geldbuße für Anbieterpflichten hängt von der Unternehmensgröße ab

Artikel 99 Absatz 4 sieht Geldbußen für Verstöße gegen die Anbieterpflichten nach Artikel 16 vor. Die Obergrenze hängt von der Unternehmensgröße ab:

  • Artikel 99 Absatz 4
    Großes Unternehmen (kein KMU und kein kleines Midcap-Unternehmen)

    Bis zu 15 Millionen EUR oder — bei Unternehmen — bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist.

  • Artikel 99 Absatz 6
    KMU, einschließlich Start-up-Unternehmen

    Bis zu 15 Millionen EUR oder 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag niedriger ist.

  • Artikel 99 Absatz 6a
    Kleines Midcap-Unternehmen (SMC)

    Bis zu 15 Millionen EUR oder 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag niedriger ist.

Artikel 3 definiert KMU nach der Empfehlung 2003/361/EG und kleine Midcap-Unternehmen nach Nummer 2 des Anhangs der Empfehlung (EU) 2025/1099.

Dieselbe Obergrenze gilt für Bevollmächtigte, Einführer, Händler und Betreiber, die gegen ihre eigenen Pflichten verstoßen (Artikel 99 Absatz 4 Buchstaben b bis e).

Werden notifizierten Stellen oder zuständigen nationalen Behörden auf Auskunftsersuchen falsche, unvollständige oder irreführende Informationen bereitgestellt, liegt die Obergrenze bei 7,5 Millionen EUR oder — bei Unternehmen — 1 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 5). Die Regel für KMU und kleine Midcap-Unternehmen gilt auch hier (Artikel 99 Absätze 6 und 6a).

Artikel 99 gehört nicht zu den Artikeln, die für Systeme nach Abschnitt B gelten, daher gelten diese Geldbußen für sie nicht (Artikel 2 Absatz 2).

Vier Prüfungen zeigen, wo Ihr Produkt steht

  1. Finden Sie die Rechtsvorschrift aus Anhang I, die Ihr Produkt erfasst, und notieren Sie, ob sie in Abschnitt A oder B steht.
  2. Prüfen Sie, ob diese Rechtsvorschrift für Ihr Produkt eine Konformitätsbewertung durch Dritte verlangt.
  3. Prüfen Sie, ob Ihr KI-System das Produkt oder dessen Sicherheitsbauteil ist (Artikel 6 Absatz 1 und Artikel 3 Nummer 14).
  4. Planen Sie bei Abschnitt A die Anforderungen aus Kapitel III (Abschnitte 1 bis 3) für den 2. August 2028. Fragen Sie bei Abschnitt B eine Rechtsberatung, welche Fachvorschriften für Ihr KI-System gelten.

Häufige Fragen zu Hochrisiko-KI-Systemen nach Anhang I

Gilt der Anhang-I-Termin für Maschinen?

Nicht unmittelbar. Maschinen stehen jetzt in Abschnitt B von Anhang I, daher gelten für KI-Systeme in Maschinen, die nach Artikel 6 Absatz 1 hochriskant sind, nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112 (Artikel 2 Absatz 2). Die Verordnung über Maschinen soll die KI-Anforderungen enthalten, über delegierte Rechtsakte, die bis zum 2. August 2028 gelten müssen (Artikel 3 Absatz 1 der Verordnung (EU) 2026/1744).

Ist jedes KI-System in einem Produkt mit einer Rechtsvorschrift aus Anhang I hochriskant?

Nein. Beide Bedingungen von Artikel 6 Absatz 1 müssen erfüllt sein. Das KI-System muss das Produkt oder dessen Sicherheitsbauteil sein, und das Produkt muss einer Konformitätsbewertung durch Dritte unterzogen werden. Ein KI-System, das nur für Komfort, Optimierung oder Qualitätskontrolle dient, ist kein Sicherheitsbauteil, es sei denn, sein Ausfall würde Gesundheit und Sicherheit gefährden (Artikel 6 Absätze 1a und 1b).

Was gilt, wenn mein KI-System auch unter Anhang III fällt?

Fällt das System unter eine Rechtsvorschrift aus Abschnitt A und zugleich unter Anhang III, folgt der Anbieter dem Konformitätsbewertungsverfahren der Rechtsvorschrift aus Abschnitt A (Artikel 43 Absatz 3).

Scanara unterstützt die Nachweisarbeit, die Einstufung entscheiden Sie

Scanara durchsucht Code nach gängigen Mustern von ML-Frameworks, strukturiert die Einstufung jedes Systems und bereitet Nachweise für die technische Dokumentation vor. Sie entscheiden, ob Ihr Produkt unter eine Rechtsvorschrift aus Anhang I fällt. Eine notifizierte Stelle, nicht Scanara, führt jede Konformitätsbewertung durch Dritte durch.

Funktionen von Scanara ansehen

Als Nächstes lesen: Artikel 6, Anhang III und die Anbieterpflichten