Artikel 14 KI-Verordnung: menschliche Aufsicht & Kill-Switch
Praxisleitfaden zur Umsetzung von Mechanismen für menschliche Aufsicht und Kill-Switches gemäß Artikel 14 der KI-Verordnung.
Artikel 14 verlangt, dass Hochrisiko-KI-Systeme so konzipiert werden, dass sie von natürlichen Personen wirksam beaufsichtigt werden können, einschließlich der Fähigkeit, Leistungsgrenzen zu verstehen, den Betrieb zu überwachen sowie in das System einzugreifen oder es zu unterbrechen.
Für Entwicklerteams bedeutet dies den Bau von Kill-Switches, Human-in-the-Loop-Genehmigungsworkflows und Monitoring-Dashboards für Echtzeit-Sichtbarkeit.
Was Artikel 14 verlangt
Verständnis & Interpretation
Das KI-System muss so konzipiert sein, dass Aufsichtspersonen seine Fähigkeiten, Einschränkungen, Genauigkeitsgrad und Umstände, unter denen es fehlerhaft arbeiten kann, verstehen können.
Überwachungsfähigkeiten
Bereitstellung von Werkzeugen für Echtzeitüberwachung einschließlich Anomalieerkennung, Fehleridentifizierung und Leistungsbewertung.
Eingriff & Übersteuerung
Der Aufsichtsperson ermöglichen, Ausgaben zu übersteuern oder rückgängig zu machen und das System über einen Stopp-Knopf oder ähnliches Verfahren zu unterbrechen oder anzuhalten.
Kill-Switches implementieren
Ein Kill-Switch ermöglicht autorisierten Personen, KI-Operationen sofort zu stoppen. Artikel 14 verlangt dies für alle Hochrisiko-KI-Systeme.
Notfall-Stopp
Implementieren Sie einen sofortigen Stopp-Mechanismus, der alle KI-Inferenzen stoppt. Muss auch bei Systemfehlern funktionieren. Neue Operationen verhindern, während laufende sicher abgeschlossen werden.
Graceful Degradation
Bei Aktivierung in einen sicheren Modus wechseln: An menschliche Prüfer weiterleiten, regelbasierte Standardwerte verwenden oder vollständig pausieren. Fallback-Verhalten dokumentieren und testen.
Audit-Logging von Übersteuerungen
Jede Kill-Switch-Aktivierung und menschliche Übersteuerung mit Zeitstempel, Bedieneridentität, Grund und Systemzustand protokollieren.
Muster für menschliche Aufsicht
Human-in-the-Loop
Ein Mensch prüft und genehmigt jede KI-Entscheidung, bevor sie wirksam wird. Erforderlich für Entscheidungen mit höchstem Risiko.
Human-on-the-Loop
Die KI arbeitet autonom, aber ein Mensch überwacht und kann jederzeit eingreifen.
Human-in-Command
Ein Mensch legt Parameter und Einschränkungen fest und behält die Fähigkeit, jede Entscheidung zu übersteuern und das System abzuschalten.
Häufig gestellte Fragen
Verwandte Leitfäden
So hilft Scanara
Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.