Artykuł 12: prowadzenie rejestrów w systemach autonomicznych
Jak wymogi prowadzenia rejestrów z artykułu 12 EU AI Act stosują się do systemów autonomicznych — dane czujników, logi decyzji, zdarzenia przejęcia, retencja, RODO.
Artykuł 12 wymaga, aby dostawcy i wdrażający systemy sztucznej inteligencji prowadzili szczegółowe dzienniki i dokumenty wykazujące zgodność z obowiązkami ustawy o sztucznej inteligencji. W przypadku systemów autonomicznych – pojazdów autonomicznych, dronów, robotów przemysłowych – rejestrowanie jest szczególnie krytyczne, ponieważ zachowanie sztucznej inteligencji bezpośrednio wpływa na bezpieczeństwo i konieczność badania incydentów.
Ten przewodnik wyjaśnia, co musi być rejestrowane, jak długo przechowywać dzienniki, jak obsługiwać dane osobowe i jak dzienniki artykułu 12 wchodzą w interakcję z innymi przepisami (RODO, homologacja typu pojazdu, odpowiedzialność za produkty). Scanara pomaga Ci projektować i przeprowadzać audyt infrastruktury rejestrowania w celu spełnienia wszystkich wymagań.
Podstawy rejestrowania artykułu 12 dla systemów autonomicznych
Automatyczne rejestrowanie zdarzeń
Dzienniki muszą przechwytywać każdy moment decyzji, ramkę czujnika i zdarzenie zastąpienia automatycznie bez interwencji człowieka. Rejestrowanie w czasie rzeczywistym zmniejsza utratę danych post-hoc i zapewnia kompletność.
Wymóg rekonstrukcji decyzji
Audytorzy i organy regulacyjne muszą być w stanie odtworzyć ścieżkę decyzji sztucznej inteligencji z Twoich dzienników. Oznacza to przechowywanie nie tylko wyjścia (skręć w lewo), ale stanu wejścia (wykryty przeszkoda w X, prędkość Y) i używanej wersji modelu.
Dokumentacja interwencji człowieka
Gdy operator, pasażer lub system bezpieczeństwa zastępuje sztuczną inteligencję, zdarzenie to musi być zarejestrowane z czasem, kodami przyczyn i podejmowaną czynnością zastępczą. To jest krytyczne dowody dla dochodzenia w sprawie incydentu.
Zachowanie danych z czujników
Surowe lub przetworzone strumienie czujników (ramki kamery, chmury punktów lidar, powroty radarowe) muszą być rejestrowane, aby zademonstrować kontekst operacyjny sztucznej inteligencji. Formaty skompresowane są dopuszczalne, jeśli dane bezstratne mogą być odzyskane.
Ścieżka audytu zgodności
Dzienniki stanowią ścieżkę audytu udowadniającą, że przestrzegałeś obowiązków artykułu 12. Wspierają oceny zgodności, przeglądy przez jednostki notyfikowane i dochodzenia w zakresie nadzoru rynku.
Ciągłość czasowa i synchronizacja
Dzienniki na wszystkich czujnikach i systemach muszą być zsynchronizowane z precyzyjnymi znacznikami czasu. Luki lub pochylenie zegara mogą uczynić całą łańcuch dzienników zawodnym do celów regulacyjnych.
Co musi być rejestrowane: dane czujników, decyzji i zastąpień
Systemy autonomiczne działają w dynamicznych środowiskach i podejmują decyzje w ułamkach sekund. Aby spełnić artykuł 12, musisz rejestrować dane wejściowe czujników, wewnętrzne rozumowanie sztucznej inteligencji (jeśli dostępne) i wszystkie dane wyjściowe i zastąpienia.
Dzienniki decyzji sztucznej inteligencji to Wasza ścieżka dowodu
Artykuł 12 nakłada obowiązek wyczerpujące rejestracji wszystkich decyzji systemu sztucznej inteligencji, danych wejściowych czujników i interwencji człowieka. W przypadku pojazdów autonomicznych oznacza to przechwytywanie poleceń skrętu, decyzji dotyczących przyspieszenia/hamowania i interwencji operatorów. Bez tych dzienników organy regulacyjne nie mogą weryfikować Waszej zgodności ani badać incydentów.
Rejestracja czujników i zdarzeń musi być ciągła
Systemy autonomiczne muszą rejestrować wszystkie dane wejściowe czujników (kamery, lidar, radar), przetworzone cechy otrzymane przez model sztucznej inteligencji i każde wyjście decyzji. W przypadku dronów obejmuje to decyzje dotyczące ścieżki lotu i wyzwalacze unikania kolizji. Luki w rejestrowaniu unieważniają cały dokument i narażają Państwa na kary regulacyjne.
Okresy przechowywania różnią się w zależności od kategorii ryzyka
Systemy autonomiczne wysokiego ryzyka (pojazdy autonomiczne, manipulatory robotyczne) mogą wymagać przechowywania dzienników przez lata w celu wsparcia dochodzeń w sprawach wypadków i audytów zgodności. Drony o mniejszym ryzyku mogą mieć krótsze okresy. Najpierw określ kategorię ryzyka Twojego systemu – determinuje Twoją politykę przechowywania.
Dane osobowe w dziennikach powodują obowiązki RODO
Jeśli Twój system autonomiczny rejestruje dane lokalizacyjne, biometryczne dane z czujników lub identyfikatory użytkowników, te dzienniki stają się danymi osobowymi. RODO stosuje się równolegle z artykułem 12: musisz anonimizować, pseudonimizować lub uzasadnić przechowywanie na podstawie prawa ochrony danych. Niezastosowanie się narusza zarówno Ustawę o sztucznej inteligencji, jak i RODO.
Przechowywanie, dostęp i przekazanie regulacyjne
Dzienniki są użyteczne tylko wtedy, gdy przechowywane wystarczająco długo w celu wspierania dochodzeń i audytów zgodności, i jeśli są dostępne dla organów regulacyjnych, użytkowników i upoważnionych stron trzecich w razie potrzeby.
Dyrektywa Maszynowa i artykuł 12
Jeśli Twój system autonomiczny jest maszyną (ramię robota, autonomiczny wózek widłowy), musi być zgodny zarówno z Dyrektywą Maszynową (UE 2006/42/WE), jak i Ustawą o sztucznej inteligencji. Rejestrowanie artykułu 12 uzupełnia wymogi pliku dokumentacji technicznej (TDF) Dyrektywy Maszynowej. Przechowywanie dzienników musi spełniać oba ramy.
Homologacja typu pojazdu i przepisy UNECE
Pojazdy autonomiczne muszą spełniać przepisy bezpieczeństwa pojazdów UNECE (np. UNECE R79, R80) wraz z Ustawą o sztucznej inteligencji UE. Wiele reguł UNECE wymaga teraz rejestratorów danych zdarzeń (czarnych skrzynek). Koordynuj rejestrowanie artykułu 12 z wymogami homologacji, aby uniknąć duplikacji i zapewnić brak luk w danych.
RODO i dane osobowe w dziennikach
Wszelkie informacje umożliwiające identyfikację osobistą w Twoich dziennikach – współrzędne GPS, biometryczne dane z czujników, identyfikatory użytkowników – są danymi osobowymi zgodnie z RODO. Artykuł 12 i RODO mają zastosowanie. Musisz mieć uzasadniającą podstawę przechowywania, wdrożyć ochronę danych przez projektowanie i zapewnić osobom przejrzystość i prawa (np. dostęp, usunięcie). Niezastosowanie się do jednego z ram narażało Cię na znaczące kary.
Odpowiedzialność za produkty i prawo do śladu danych
W sporach dotyczących odpowiedzialności za produkty (osoba ranna przez Twój system autonomiczny) adwokaci powodów będą żądać dzienników, aby udowodnić, że Twój system zawiódł lub naruszył obowiązek. Kompleksowe dzienniki artykułu 12 chronią Cię, tworząc obiektywny zapis. Niekompletne lub brakujące dzienniki mogą być interpretowane przeciwko Tobie na sądzie.
Rzeczywiste naruszenia artykułu 12 w systemach autonomicznych
Wypadek pojazdu autonomicznego: niewystarczające dzienniki czarnej skrzynki
Samochód autonomiczny uderza pieszego. Dzienniki firmy pokazują tylko ostateczną czynność poleceń (zaaplikowane hamowanie), ale nie dane z czujników ani oś czasu percepcji sztucznej inteligencji prowadzącej do decyzji. Organy regulacyjne nie mogą określić, czy sztuczna inteligencja nie wykryła pieszego, czy system zastępowania/hamowania zawiódł. Naruszenie artykułu 12: dzienniki niewystarczające do odtworzenia sekwencji przyczynowej. Wynik: grzywna, obowiązkowe przeprojektowanie dziennika, potencjalny wycofanie produktu.
Operator drona niszczy dzienniki lotu po wypadku
Dron dostawczy ulega awarii. Polityka firmy operatora polegała na nadpisywaniu danych lotu po 7 dniach w celu zaoszczędzenia miejsca. Organy regulacyjne badające incydent nie znajdują dzienników. Naruszenie artykułu 12: nieadekwatny okres przechowywania i, jeśli powiązane z wypadkiem, celowe zniszczenie dowodów. Wynik: kara regulacyjna, dochodzenie karne w niektórych jurysdykcjach.
Producent robotów nie rejestruje zdarzeń zastępowania
Przemysłowe ramię robotyczne jest zaprogramowane do pracy bez rejestrowania zatrzymań bezpieczeństwa człowieka lub naciśnięć przycisku zatrzymania awaryjnego. Dochodzi do obrażenia, a śledczy odkrywają, że sztuczna inteligencja stale przeciskała się przez polecenia bezpieczeństwa. Naruszenie artykułu 12: zdarzenia zastępowania nie zarejestrowane. Wynik: grzywna, nakaz przeprojektowania systemu rejestrowania, utrata znaku CE w oczekiwaniu na działania naprawcze.
Dane czujników zbyt skompresowane, nie można odtworzyć stanu
Robot logistyczny rejestruje tylko statystyki zagregowane (np. 'przeszkoda wykryta, pewność 87%'), ale odrzuca surowe ramki czujników. Kiedy dochodzi do wypadku, audytorzy nie mogą zweryfikować, czy sztuczna inteligencja rzeczywiście otrzymała niezbędne informacje, aby podjąć bezpieczną decyzję. Naruszenie artykułu 12: brak wystarczających szczegółów do odtworzenia kontekstu decyzji. Wynik: warunkowe polecenie zgodności w oczekiwaniu na przeprojektowanie formatu dziennika.
Lista kontrolna zgodności artykułu 12 i często zadawane pytania
Zdefiniuj zakres rejestrowania
Zidentyfikuj wszystkie punkty decyzji systemu sztucznej inteligencji, dane wejściowe czujników i mechanizmy zastępowania. Utwórz dokument specyfikacji rejestrowania połączony z ocenę ryzyka i architekturę systemu.
Wdrożyć automatyczne, ciągłe rejestrowanie
Wdróż infrastrukturę rejestrowania, która przechwytuje zdarzenia bez interwencji ręcznej. Upewnij się synchronizacji między czujnikami rozproszonymi (kamery, lidar, radar, GPS, akcelerometry).
Przechowuj dzienniki przez okres regulacyjny
Ustal polityki przechowywania na podstawie kategorii ryzyka (wysokie ryzyko: 3–5 lat lub zgodnie z osiami czasowymi dochodzeń wypadków; niższe ryzyko: 1–2 lat). Udokumentuj podstawę przechowywania.
Zweryfikuj zdolność rekonstrukcji
Przetestuj, czy audytorzy mogą odtworzyć Twoje dzienniki, aby zrozumieć ścieżkę decyzji sztucznej inteligencji. Przeprowadź symulacyjne dochodzenia w sprawie incydentów, korzystając z danych dziennika, aby zapewnić kompletność.
Rozdziel dane osobowe i wdróż kontrole RODO
Izoluj informacje umożliwiające identyfikację osobistą, wdróż pseudonimizację gdzie to możliwe i dostosuj przechowywanie danych do uzasadnienia RODO i zasad minimalizacji przechowywania.
Często Zadawane Pytania
Powiązane artykuły i przepisy
Artykuł 9: Zarządzanie ryzykiem dla systemów autonomicznych
Zarządzanie ryzykiem informuje, co rejestrujesz. Systemy autonomiczne wysokiego ryzyka wymagają kompleksowych dzienników wspierających ciągłe monitorowanie i badanie incydentów. Artykuł 9 i artykuł 12 działają razem.
Artykuł 14: Nadzór człowieka i rejestrowanie zastąpień
Artykuł 14 wymaga nadzoru człowieka. Dzienniki artykułu 12 muszą przechwytywać wszystkie zdarzenia zastępowania człowieka z wystarczającymi szczegółami, aby zweryfikować, że nadzór człowieka był skuteczny.
Dyrektywa Maszynowa - Plik dokumentacji technicznej (TDF)
W przypadku robotów autonomicznych i maszyn wymogi TDF nakładają się na rejestrowanie artykułu 12. Upewnij się, że Twoje dzienniki zasilają Twój TDF i wspierają audyty przez jednostki notyfikowane.
Przepisy UNECE dotyczące homologacji typów pojazdów i rejestrators danych zdarzeń
Pojazdy autonomiczne muszą spełniać przepisy bezpieczeństwa UNECE. Wiele teraz wymaga rejestratorów danych zdarzeń (czarnych skrzynek). Koordynuj dzienniki artykułu 12 z wymogami UNECE, aby zapewnić pełne pokrycie.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.