Skip to main content

Artikel 9: Risikomanagementsystem für Hochrisiko-KI

EU AI Act Artikel 9: Anbieter von Hochrisiko-KI-Systemen müssen ein fortlaufendes Risikomanagementsystem betreiben. Was es umfasst, wann es gilt, was Verstöße kosten und wo Sie anfangen.

Anbieter von Hochrisiko-KI-Systemen, die in der EU in Verkehr gebracht werden, müssen über den gesamten Lebenszyklus des Systems ein Risikomanagementsystem betreiben (Artikel 9). Er ermittelt, bewertet und verringert Risiken.

Die Regel gilt ab dem 2. Dezember 2027 für Systeme nach Anhang III (aufgelistete Hochrisiko-Verwendungen). Für Produkte nach Anhang I gilt sie ab dem 2. August 2028 (Artikel 113 Buchstabe c). Produkte nach Abschnitt B sind ausgenommen (Artikel 2 Absatz 2). Geldbußen für Verstöße betragen bis zu 15 Millionen EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Nächster Schritt: Prüfen Sie nach Artikel 6, ob Ihr System ein Hochrisiko-KI-System ist, und legen Sie dann ein Risikoregister an.

Artikel 9 verlangt, Risiken zu ermitteln, zu bewerten, zu verringern und zu testen

Risiken ermitteln

Erfassen Sie die bekannten und vernünftigerweise vorhersehbaren Risiken für Gesundheit, Sicherheit oder Grundrechte bei bestimmungsgemäßer Verwendung (Artikel 9 Absatz 2 Buchstabe a). Es zählen nur Risiken, die sich durch Entwicklung, Konzeption oder technische Informationen angemessen mindern lassen (Artikel 9 Absatz 3).

Risiken abschätzen und bewerten

Beziehen Sie Risiken bei vernünftigerweise vorhersehbarer Fehlanwendung ein, ebenso Risiken, die sich aus den Daten der Beobachtung nach dem Inverkehrbringen ergeben (Artikel 9 Absatz 2 Buchstaben b und c).

Risiken in fester Reihenfolge verringern

Beseitigen oder verringern Sie Risiken zuerst durch Konzeption und Entwicklung. Ergreifen Sie danach Maßnahmen zur Minderung und Kontrolle. Geben Sie dann den Betreibern Informationen und, soweit angemessen, Schulungen. Das verbleibende Risiko muss vertretbar sein (Artikel 9 Absatz 5).

Gegen festgelegte Metriken testen

Testen Sie während der Entwicklung und vor dem Inverkehrbringen anhand von Metriken und Wahrscheinlichkeitsschwellen, die vorab festgelegt wurden (Artikel 9 Absätze 6 und 8). Tests unter Realbedingungen sind nach Artikel 60 möglich (Artikel 9 Absatz 7).

Kinder und schutzbedürftige Gruppen berücksichtigen

Prüfen Sie, ob das System voraussichtlich Personen unter 18 Jahren und gegebenenfalls andere schutzbedürftige Gruppen beeinträchtigt (Artikel 9 Absatz 9).

Vier Engineering-Praktiken, die Nachweise für Artikel 9 liefern

Artikel 9 schreibt keine Werkzeuge vor. Diese vier Praktiken sind Vorschläge für einen dokumentierten, wiederholbaren Prozess.

Risikoregister als Code

Führen Sie ein maschinenlesbares Risikoregister (JSON oder YAML) in der Versionsverwaltung neben dem Code. Erfassen Sie je Risiko Eintrittswahrscheinlichkeit, Schwere, Gegenmaßnahme und Verantwortliche.

Risikoprüfungen in CI/CD

Ergänzen Sie die Pipeline um Scans und Tests, die risikorelevante Muster melden, etwa fehlende Eingabeprüfung oder fehlende Konfidenzschwellen.

Tests für bekannte Risiken

Schreiben Sie Tests, die prüfen, ob jede Gegenmaßnahme wirkt, anhand vorab festgelegter Metriken und Schwellen (Artikel 9 Absatz 8).

Beobachtung nach der Freigabe

Speisen Sie Produktionsdaten ins Register ein: Leistungsabfall, Drift, auffällige Ausgaben und menschliche Eingriffe (Artikel 9 Absatz 2 Buchstabe c).

Das Risikomanagement läuft über den gesamten Lebenszyklus

Artikel 9 Absatz 2 beschreibt das System als kontinuierlichen iterativen Prozess über den gesamten Lebenszyklus, mit regelmäßiger systematischer Überprüfung und Aktualisierung.

1

Risiken vor jeder Freigabe ermitteln und einstufen.

2

Gegenmaßnahmen umsetzen und testen.

3

Nach der Freigabe beobachten und die Erkenntnisse zurückspielen.

Häufige Fragen zu Artikel 9

Gilt Artikel 9 für alle KI-Systeme?

Nein. Artikel 9 gilt für Hochrisiko-KI-Systeme, die Artikel 6 über Anhang III und Anhang I bestimmt. Er gilt ab dem 2. Dezember 2027 für Systeme nach Anhang III und ab dem 2. August 2028 für Systeme nach Anhang I (Artikel 113 Buchstabe c). Für Hochrisiko-KI-Systeme, die mit Produkten nach Rechtsvorschriften des Anhangs I Abschnitt B zusammenhängen, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112; die Artikel 57 bis 59 gelten nur, soweit die Anforderungen an Hochrisiko-KI-Systeme in diese Rechtsvorschriften aufgenommen wurden (Artikel 2 Absatz 2).

Welche Dokumentation verlangt Artikel 9?

Artikel 9 Absatz 1 verlangt, das Risikomanagementsystem zu dokumentieren, und Anhang IV Nummer 5 verlangt dessen detaillierte Beschreibung in der technischen Dokumentation. Die Verordnung nennt keine feste Liste von Dokumenten. Halten Sie die Risiken, die Maßnahmen, die Einschätzung des verbleibenden Risikos und die Testergebnisse fest.

Wie oft muss das Risikomanagementsystem überprüft werden?

Regelmäßig und systematisch während des gesamten Lebenszyklus (Artikel 9 Absatz 2). Die Verordnung legt kein festes Intervall fest.

Wer ist für das Risikomanagementsystem verantwortlich?

Der Anbieter. Anbieter müssen sicherstellen, dass ihre Hochrisiko-KI-Systeme die Anforderungen von Abschnitt 2 erfüllen, einschließlich Artikel 9 (Artikel 16 Buchstabe a). Betreiber führen es nicht, müssen aber den Betrieb des Systems überwachen und gegebenenfalls die Anbieter informieren (Artikel 26 Absatz 5).

Welche Geldbuße droht, wenn ein Anbieter gegen Artikel 9 verstößt?

Geldbußen für Verstöße gegen die Anbieterpflichten nach Artikel 16 betragen bis zu 15 Millionen EUR oder im Falle von Unternehmen bis zu 3 % des gesamten weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU und kleine Midcap-Unternehmen gilt der niedrigere der beiden Beträge (Artikel 99 Absätze 6 und 6a).

Als Nächstes lesen: Aufzeichnung, Aufsicht und technische Dokumentation

Scanara bereitet Nachweise aus Ihren Repositorien vor

Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.