Artykuł 14 rozporządzenia AI: nadzór ludzki i wyłącznik
Praktyczny przewodnik po wdrażaniu mechanizmów nadzoru ludzkiego i wyłącznika awaryjnego zgodnie z artykułem 14 rozporządzenia AI.
Art. 14 wymaga, aby systemy AI wysokiego ryzyka były zaprojektowane w sposób umożliwiający skuteczny nadzór przez osoby fizyczne, w tym zdolność do zrozumienia możliwości, monitorowania działania oraz interweniowania lub przerwania działania systemu.
Dla zespołów inżynieryjnych oznacza to budowanie wyłączników awaryjnych, przepływów zatwierdzania human-in-the-loop i pulpitów monitorowania dla widoczności w czasie rzeczywistym.
Czego wymaga art. 14
Zrozumienie i interpretacja
System AI musi być zaprojektowany tak, aby osoby nadzorujące mogły zrozumieć jego możliwości, ograniczenia, stopień dokładności i okoliczności, w których może działać wadliwie.
Możliwości monitorowania
Zapewnij narzędzia do monitorowania w czasie rzeczywistym, w tym wykrywanie anomalii, identyfikację awarii i ocenę wydajności.
Interwencja i nadpisanie
Pozwól osobie nadzorującej na nadpisanie lub cofnięcie wyników oraz przerwanie lub zatrzymanie systemu za pomocą przycisku stop lub podobnej procedury.
Wdrażanie wyłączników awaryjnych
Wyłącznik awaryjny pozwala upoważnionym osobom na natychmiastowe wstrzymanie operacji AI. Art. 14 wymaga tego dla wszystkich systemów AI wysokiego ryzyka.
Zatrzymanie awaryjne
Wdróż mechanizm natychmiastowego wstrzymania, który zatrzymuje wszystkie operacje wnioskowania AI. Musi działać nawet podczas błędów systemu. Zapobiegaj nowym operacjom, jednocześnie pozwalając na bezpieczne zakończenie trwających operacji.
Łagodna degradacja
Przełącz na tryb awaryjny po aktywacji: przekieruj do recenzentów ludzkich, użyj domyślnych wartości opartych na regułach lub wstrzymaj całkowicie. Udokumentuj i przetestuj zachowanie awaryjne.
Logowanie audytowe nadpisań
Loguj każdą aktywację wyłącznika awaryjnego i nadpisanie ludzkie z sygnaturą czasową, tożsamością operatora, powodem i stanem systemu.
Wzorce nadzoru ludzkiego
Human-in-the-Loop
Człowiek przegląda i zatwierdza każdą decyzję AI zanim zostanie ona wdrożona. Wymagane dla decyzji o najwyższym ryzyku.
Human-on-the-Loop
AI działa autonomicznie, ale człowiek monitoruje i może interweniować w dowolnym momencie.
Human-in-Command
Człowiek ustala parametry i ograniczenia, zachowując zdolność do nadpisania dowolnej decyzji i wyłączenia systemu.
Najczęściej zadawane pytania
Powiązane przewodniki
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.