Skip to main content

Artikel 6: Klassifizierung von Hochrisiko-KI-Systemen

Wie Artikel 6 ein KI-System zum Hochrisiko-KI-System macht: der Produktweg nach Anhang I und die acht Bereiche von Anhang III.

Anbieter entscheiden mit Artikel 6, ob ein in der EU in Verkehr gebrachtes oder in Betrieb genommenes KI-System hochriskant ist.

Weg 1: Das System ist ein Produkt nach einer Vorschrift aus Anhang I, das eine Konformitätsbewertung durch Dritte braucht, oder dessen Sicherheitsbauteil.

Weg 2: Das System fällt in einen Bereich von Anhang III, sofern Artikel 6 Absatz 3 nicht greift.

Die Hochrisiko-Regeln (Kapitel III Abschnitte 1 bis 3) gelten ab 2. Dezember 2027 (Anhang III) und ab 2. August 2028 (Anhang I).

Wer ein System aus Anhang III falsch einstuft, um die Regeln zu umgehen, riskiert Geldbußen (Artikel 80 Absatz 7).

Vergleichen Sie Ihr System mit Anhang III und den Rechtsvorschriften in Anhang I.

Zwei Wege machen ein KI-System zum Hochrisiko-KI-System

Ein KI-System ist ein Hochrisiko-KI-System, wenn es Weg 1 oder Weg 2 erfüllt; die beiden Wege beginnen zu unterschiedlichen Terminen.

Weg 1: Produkt nach einer Rechtsvorschrift aus Anhang I oder dessen Sicherheitsbauteil

Anhang I listet EU-Produktsicherheitsvorschriften auf, zum Beispiel für Spielzeug, Aufzüge und Medizinprodukte. Das Produkt muss außerdem einer Konformitätsbewertung durch Dritte unterzogen werden (einer Prüfung durch eine externe Stelle).

Für Vorschriften aus Abschnitt A gelten die Hochrisiko-Regeln (Kapitel III Abschnitte 1 bis 3) ab dem 2. August 2028. Für Vorschriften aus Abschnitt B, darunter Maschinen, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112 (Artikel 2 Absatz 2). Die Artikel 57 bis 59 gelten nur, soweit die Fachvorschrift die Hochrisiko-Anforderungen eingebunden hat.

Anhang-I-Leitfaden lesen: Rechtsvorschriften, Termine und Pflichten

Weg 2: einer der acht Bereiche von Anhang III

Ein System ist ein Hochrisiko-KI-System, wenn es in einen der acht Bereiche von Anhang III fällt, zum Beispiel Personaleinstellung oder Kreditwürdigkeitsprüfung.

Die Hochrisiko-Regeln (Kapitel III Abschnitte 1 bis 3) gelten ab dem 2. Dezember 2027. Vier Ausnahmen nach Artikel 6 Absatz 3 sind möglich, doch Profiling von Personen ist nie ausgenommen.

Anhang III nennt acht Bereiche

Jeder Bereich führt bestimmte Verwendungen auf. Ein System für eine dieser Verwendungen ist ein Hochrisiko-KI-System, sofern keine Ausnahme greift.

1
Biometrie
2
Kritische Infrastruktur
3
Allgemeine und berufliche Bildung
4
Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit
5
Zugänglichkeit und Inanspruchnahme grundlegender privater und grundlegender öffentlicher Dienste und Leistungen
6
Strafverfolgung
7
Migration, Asyl und Grenzkontrolle
8
Rechtspflege und demokratische Prozesse

Anhang-III-Leitfaden lesen: alle acht Bereiche mit Beispielen

Vier Bedingungen können ein System aus Anhang III ausnehmen, Profiling nie

Nach Artikel 6 Absatz 3 gilt ein System aus Anhang III nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung von Gesundheit, Sicherheit oder Grundrechten natürlicher Personen birgt. Das gilt, wenn eine dieser Bedingungen erfüllt ist:

  • Das System soll eine eng gefasste Verfahrensaufgabe durchführen.
  • Das System soll das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessern.
  • Das System soll Entscheidungsmuster oder Abweichungen von früheren Entscheidungsmustern erkennen. Es soll die zuvor abgeschlossene menschliche Bewertung nicht ohne angemessene menschliche Überprüfung ersetzen oder beeinflussen.
  • Das System soll eine vorbereitende Aufgabe für eine Bewertung durchführen, die für die Bereiche von Anhang III relevant ist.

Profiling natürlicher Personen ist nie ausgenommen: Ein solches System ist immer ein Hochrisiko-KI-System (Artikel 6 Absatz 3).

Ein Anbieter, der sich auf eine Ausnahme beruft, muss seine Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird, und das System registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2).

Scanara unterstützt jeden Schritt der Einstufung, die Entscheidung treffen Sie

KI-Nutzung im Code finden

Scanara durchsucht Code nach gängigen Mustern von ML-Frameworks. So lässt sich finden, welche Systeme eingestuft werden müssen.

Einstufung festhalten

Scanara strukturiert jede Einstufung und hält Ihre Begründung fest, auch für eine Ausnahme nach Artikel 6 Absatz 3.

Nachweise sichern

Scanara erstellt Einstufungsdokumentation mit Nachweisspur. Die Einstufung entscheiden Sie, bei hohem Einsatz mit Rechtsberatung.

Funktionen von Scanara ansehen

Häufige Fragen zur Einstufung von KI-Systemen

Was passiert, wenn ich mein KI-System falsch einstufe?

Wird ein System nach Anhang III fälschlich als nicht hochriskant eingestuft, um die Regeln zu umgehen, drohen dem Anbieter Geldbußen nach Artikel 99 (Artikel 80 Absatz 7). Artikel 80 Absatz 7 nennt keinen Betrag. Geldbußen für Verstöße gegen die Anbieterpflichten nach Artikel 16 betragen bis zu 15 Millionen EUR oder im Falle von Unternehmen bis zu 3 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU und kleine Midcap-Unternehmen gilt der niedrigere der beiden Beträge (Artikel 99 Absätze 6 und 6a). Wenn Sie unsicher sind, dokumentieren Sie Ihre Überlegungen und fragen Sie eine Rechtsberatung.

Kann ein KI-System später zum Hochrisiko-KI-System werden?

Ja. Ändert jemand die Zweckbestimmung eines Systems, das nicht hochriskant war und bereits in Verkehr gebracht oder in Betrieb genommen wurde, so, dass es hochriskant wird, gilt diese Partei als Anbieter (Artikel 25 Absatz 1 Buchstabe c). Ein Beispiel ist ein Chatbot, der für die Kreditwürdigkeitsprüfung umgewidmet wird. Prüfen Sie die Einstufung neu, wenn sich Zweck oder Einsatzkontext ändern.

Heben Ausnahmen nach Artikel 6 Absatz 3 alle Pflichten auf?

Nein. Der Anbieter muss die Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird, und das System registrieren (Artikel 6 Absatz 4, Artikel 49 Absatz 2). Für Profiling natürlicher Personen gilt die Ausnahme nie (Artikel 6 Absatz 3). Andere Regeln, etwa die Transparenzpflichten nach Artikel 50, können weiter gelten.

Wann gelten die Regeln für Anhang I und Anhang III?

Die Hochrisiko-Regeln (Kapitel III Abschnitte 1 bis 3, außer Artikel 6 Absatz 5) gelten für Systeme nach Anhang III ab dem 2. Dezember 2027 und für Systeme nach Anhang I ab dem 2. August 2028 (Artikel 113). Systeme, die vor dem jeweiligen Datum in Verkehr gebracht oder in Betrieb genommen wurden, sind nur erfasst, wenn sie danach in ihrer Konzeption erheblich verändert werden; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Artikel 113 gibt jeder Route ein eigenes Datum und sagt nicht, welches Datum für ein System gilt, das unter beide Routen fällt. Prüfen Sie, welche Route für Ihr System gilt.

Nach der Einstufung: den Leitfaden zu Ihrem Weg lesen, dann die Anbieterpflichten