Rozporządzenie AI: zgodność systemów autonomicznych
Zgodność z rozporządzeniem AI dla systemów autonomicznych: pojazdy autonomiczne, drony i systemy robotyczne.
Systemy autonomiczne podejmujące krytyczne dla bezpieczeństwa decyzje wymagają solidnego zarządzania sztuczną inteligencją. Ustawa o sztucznej inteligencji UE klasyfikuje większość samochodów autonomicznych, robotów przemysłowych i dronów jako systemy wysokiego ryzyka—wymagając oceny zgodności, systemów zarządzania ryzykiem i przejrzystego nadzoru człowieka przed wprowadzeniem na rynek.
Samochody autonomiczne, roboty magazynowe, autonomiczne drony i maszyny przemysłowe napędzane sztuczną inteligencją podlegają rygorystycznym wymogom zgodności zgodnie z Ustawą o sztucznej inteligencji UE. Twój system prawdopodobnie kwalifikuje się jako wysokiego ryzyka, jeśli obsługuje krytyczne dla bezpieczeństwa funkcje, podlega przepisom bezpieczeństwa produktów lub podejmuje autonomiczne decyzje mające wpływ na bezpieczeństwo fizyczne. Kary za niezgodność sięgają do 35 milionów euro lub 7% globalnych przychodów.
Kiedy twój system autonomiczny staje się wysokiego ryzyka
Systemy autonomiczne kwalifikują się jako wysokiego ryzyka na dwa sposoby: (1) podlegają istniejącym przepisom bezpieczeństwa produktów (maszyny, pojazdy, urządzenia medyczne, zabawki) wymagającym oceny zgodności przez strony trzecie, lub (2) pojawiają się na liście wysokiego ryzyka w Załączniku III. Jeśli któreś z nich ma zastosowanie, nadzór ścisły wchodzi w życie natychmiast.
Klasyfikacja krytyczna dla bezpieczeństwa
Systemy autonomiczne kontrolujące funkcje bezpieczeństwa wyzwalają status wysokiego ryzyka. Twój system wymaga oceny zgodności i weryfikacji przez stronę trzecią przed wysyłką.
Obowiązkowa ocena zgodności
Systemy wysokiego ryzyka muszą podlegać ocenie zgodności przez stronę trzecią. Nie możesz samodzielnie się certyfikować. Ocena odbywa się przed wprowadzeniem na rynek.
Nadzór człowieka poprzez projektowanie
Systemy autonomiczne muszą umożliwiać istotną interwencję człowieka. Zaprojektuj mechanizmy przesłonięcia, pulpity monitorowania i przepływy eskalacji w architekturze systemu.
Cyberbezpieczeństwo i odporność
Systemy autonomiczne podlegają rygorystycznym wymaganiom w zakresie dokładności, niezawodności i cyberbezpieczeństwa. Udokumentuj obrony przed atakami adversarialnymi, fałszerstwem czujników i trybami awarii.
Główne wymagania techniczne
Udokumentuj przewidywalne nadużycia, tryby awarii i przypadki brzegowe. Zbuduj żyjący system identyfikujący, rejestrujący i łagodzący ryzyko na całym cyklu życia produktu.
Zaprojektuj znaczące punkty interwencji. Operatorzy muszą rozumieć zachowanie systemu i przesłaniać decyzje sztucznej inteligencji w razie potrzeby bez barier technicznych.
Prowadź szczegółowe rejestry danych treningowych, architektury modelu, metryk wydajności, protokołów testowych i znanych ograniczeń. To jest twoje pismo zgodności.
Testuj odporność na ataki adversarialne, manipulacje czujników i dane wejściowe spoza dystrybucji. Udokumentuj obrony i procedury odzyskiwania po awarii.
Systemy autonomiczne w praktyce
Pojazd autonomiczny (poziom SAE 3+)
Samochód autonomiczny obsługujący jazdę autostradą bez kontroli człowieka kwalifikuje się jako wysokiego ryzyka zgodnie z Załącznikiem I (przepisy pojazdu) i Załącznikiem III (autonomiczne systemy pojazdów). Ocena zgodności jest obowiązkowa.
System zarządzania ryzykiem, przesłonięcie człowieka (kierownica/hamulce), rejestrowanie w czasie rzeczywistym decyzji sztucznej inteligencji, testowanie cyberbezpieczeństwa, ocena przez stronę trzecią przed wprowadzeniem na rynek.
Robot automatyzacji magazynu
Autonomiczny robot mobilny nawigujący i sortujący przedmioty wyzwala klasyfikację wysokiego ryzyka przy podejmowaniu decyzji krytycznych dla bezpieczeństwa (uniknięcie kolizji, obsługa ładunków).
Rejestrowanie wykrycia kolizji, mechanizm przesłonięcia operatora, dokumentacja wydajności bezpieczeństwa, testowanie niezawodności adversarialnej, ocena zgodności przed wdrożeniem.
Dron dostawy rolniczej
Autonomiczny dron dostarczający paczki nad zamieszkane obszary podpada pod klasyfikację wysokiego ryzyka ze względu na krytyczne dla bezpieczeństwa podejmowanie decyzji i istniejące przepisy dotyczące dronów.
Rejestrowanie trajektorii lotu, zdolność przesłonięcia geofencingu, protokoły awarii pogody/czujnika, cyberbezpieczeństwo przed przejęciem sygnału, ocena przez stronę trzecią dla operacji autonomicznej.
Przemysłowe ramię robota z wizją AI
Ramię robota używające wizji zasilanej sztuczną inteligencją staje się wysokiego ryzyka, gdy podejmuje autonomiczne decyzje krytyczne dla bezpieczeństwa (regulacja prędkości, siła uchwytu) bez zabezpieczeń.
Rejestrowanie awarii systemu wizji, przesłonięcie zatrzymania awaryjnego, dokumentacja kontroli jakości, testowanie niezawodności adversarialnej (wariacje oświetlenia/kąta), ocena zgodności przed wdrożeniem.
Lista kontrolna zgodności dla twojego systemu autonomicznego
euAiAct.industryAutonomousSystems.checklist1Desc
euAiAct.industryAutonomousSystems.checklist2Desc
euAiAct.industryAutonomousSystems.checklist3Desc
euAiAct.industryAutonomousSystems.checklist4Desc
euAiAct.industryAutonomousSystems.checklist5Desc
euAiAct.industryAutonomousSystems.checklist6Desc
euAiAct.industryAutonomousSystems.checklist7Desc
euAiAct.industryAutonomousSystems.checklist8Desc
Niezgodność pociąga za sobą poważne kary
Systemy sztucznej inteligencji wysokiego ryzyka, które nie spełniają wymogów zgodności, podlegają karom do 35 milionów euro lub 7% globalnych rocznych przychodów. Zakazane praktyki skutkują oddzielnymi karami do 35 milionów euro lub 7%. Nawet niezamierzona niezgodność jest kosztowna. Wczesna inwestycja w zgodność jest znacznie tańsza niż naprawa lub grzywny.
Często zadawane pytania
Poznaj zgodność wg tematu
Artykuł 9: Zarządzanie ryzykiem
Zbuduj i udokumentuj system zarządzania ryzykiem dla systemów autonomicznych. Obejmuje analizę zagrożeń, strategie łagodzenia i monitorowanie cyklu życia.
Artykuł 14: Nadzór człowieka
Zrozum wymogi nadzoru człowieka. Zaprojektuj mechanizmy przesłonięcia, systemy rejestrowania i szkolenia operatorów dla systemów autonomicznych.
Artykuł 16: Obowiązki dostawcy
Twoje odpowiedzialność prawna jako dostawca sztucznej inteligencji wysokiego ryzyka. Obejmuje rejestrację, monitorowanie, zgłaszanie incydentów i procedury wycofania.
Lista kontrolna i pismo zgodności
Ramy krok po kroku do budowania twojego pisma zgodności. Śledzi wymagania techniczne, dokumentację, testowanie i kamienie milowe oceny.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.