KI-Verordnung Artikel 9: Risikomanagement im Code
Die Anforderungen an das Risikomanagementsystem nach Artikel 9 der KI-Verordnung verstehen und in Ihrer KI-Codebasis umsetzen.
Artikel 9 der KI-Verordnung verpflichtet Anbieter von Hochrisiko-KI-Systemen, ein Risikomanagementsystem einzurichten, umzusetzen, zu dokumentieren und während des gesamten Lebenszyklus des KI-Systems aufrechtzuerhalten.
Für Entwicklerteams übersetzen sich die Anforderungen von Artikel 9 in konkrete technische Anforderungen: systematische Risikoidentifizierung, dokumentierte Minderungsmaßnahmen, Restrisikoverfolgung und Testverfahren.
Was Artikel 9 verlangt
Risikoidentifizierung & -analyse
Identifizierung und Analyse bekannter und vernünftigerweise vorhersehbarer Risiken, die das Hochrisiko-KI-System für Gesundheit, Sicherheit oder Grundrechte darstellen kann.
Risikoabschätzung & -bewertung
Abschätzung und Bewertung von Risiken bei bestimmungsgemäßer Verwendung und vernünftigerweise vorhersehbarer Fehlanwendung. Risikobewertung auf Basis von Post-Market-Monitoring-Daten.
Risikominderungsmaßnahmen
Geeignete Risikomanagementmaßnahmen einschließlich Designentscheidungen, technischer Schutzmaßnahmen und Informationen für Betreiber. Restrisiken müssen kommuniziert werden.
Tests & Validierung
Testen des KI-Systems gegen Risikomanagementmaßnahmen vor dem Inverkehrbringen. Tests müssen gegebenenfalls unter realen Bedingungen erfolgen.
Artikel 9 in Ihrer Codebasis umsetzen
Artikel 9-Compliance lässt sich in konkrete Engineering-Praktiken übersetzen, die in Ihren Entwicklungsworkflow eingebettet werden können.
Risikoregister als Code
Pflegen Sie ein maschinenlesbares Risikoregister (JSON/YAML), das zusammen mit Ihrer Codebasis versioniert wird. Dokumentieren Sie Risiko, Wahrscheinlichkeit, Schwere, Minderungsstrategie und verantwortliche Person.
Automatisierte Risikoerkennung in CI/CD
Integrieren Sie Scanning-Tools, die risikorelevante Code-Muster erkennen: fehlende Eingabevalidierung, fehlende Konfidenzschwellenwerte, unüberwachter Modell-Drift oder fehlende Bias-Erkennung.
Tests für bekannte Risiken
Schreiben Sie Tests, die verifizieren, dass Ihre Minderungsmaßnahmen funktionieren: Bias-Erkennung, Kill-Switches und Logging erforderlicher Risikoereignisse.
Überwachung nach Deployment
Überwachen Sie Risikoindikatoren in der Produktion: Verschlechterung der Modellleistung, Verteilungsdrift, anomale Ausgaben und Muster menschlicher Übersteuerung.
Der kontinuierliche Risikomanagement-Kreislauf
Artikel 9 verlangt ausdrücklich, dass das Risikomanagement ein kontinuierlicher iterativer Prozess während des gesamten KI-System-Lebenszyklus ist.
Häufig gestellte Fragen
Verwandte Leitfäden
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.