Art. 12 dla systemów autonomicznych: rejestrowanie zdarzeń i rejestry

Art. 12 nakłada na dostawcę obowiązek projektowy. Przechowywanie rejestrów to odrębny obowiązek, opisany w wierszach poniżej.

• art. 12(1)
  Automatyczne rejestrowanie zdarzeń w całym cyklu życia

  Systemy AI wysokiego ryzyka muszą dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (rejestrów zdarzeń) w całym cyklu życia systemu.

• art. 12(2)
  Identyfikowalność stosowna do przeznaczenia

  Funkcja rejestrowania zdarzeń musi zapewniać poziom identyfikowalności funkcjonowania systemu stosowny ze względu na jego przeznaczenie. Musi umożliwiać rejestrowanie zdarzeń istotnych dla trzech celów. Pierwszy to identyfikowanie sytuacji, które mogą skutkować ryzykiem w rozumieniu art. 79 ust. 1 lub prowadzić do istotnej zmiany. Drugi to ułatwianie monitorowania po wprowadzeniu do obrotu (art. 72). Trzeci to monitorowanie działania systemu (art. 26 ust. 5).

• art. 12(3)
  Minimalna zawartość rejestrów: tylko zdalna identyfikacja biometryczna

  Art. 12 ust. 3 wymienia minimalną zawartość rejestrów tylko dla systemów wysokiego ryzyka z pkt 1 lit. a) załącznika III (zdalna identyfikacja biometryczna). Dla systemów z tej strony rozporządzenie nie wskazuje minimalnych pól rejestru.

Art. 12 dotyczy wyłącznie systemów AI wysokiego ryzyka. Poniższe wiersze pokazują, jakie AI w pojazdach, bezzałogowych statkach powietrznych, robotach i maszynach jest objęte, kiedy art. 12 się nie stosuje i kto przechowuje rejestry.

• Systemy autonomiczne nie są kategorią w rozporządzeniu

  Rozporządzenie nie zawiera kategorii systemów autonomicznych. Jego definicja systemu AI mówi o „różnym poziomie autonomii” (art. 3 pkt 1), a art. 14 ust. 3 o „poziomie autonomii”. Rozporządzenie nie wymienia żadnego samochodu autonomicznego, drona ani robota. Ta strona używa określenia „systemy autonomiczne” dla AI w pojazdach, bezzałogowych statkach powietrznych, robotach i maszynach. To, jakie przepisy mają zastosowanie, zależy od unijnego prawa produktowego, które obejmuje dany produkt. Kolejne wiersze wskazują trzy sposoby, w jakie system AI może być systemem wysokiego ryzyka: na podstawie sekcji B załącznika I, na podstawie sekcji A załącznika I oraz na podstawie załącznika III pkt 2. Zastosowanie mogą mieć także inne przepisy, na przykład art. 4 (kompetencje w zakresie AI), art. 5 (zakazane praktyki), art. 50 (przejrzystość), art. 53 (modele AI ogólnego przeznaczenia) oraz pozostałe punkty załącznika III.

• Produkty z sekcji B: pojazdy, bezzałogowe statki powietrzne, system kolei, wyposażenie morskie, maszyny

  Sekcja B załącznika I wymienia na przykład pojazdy silnikowe (rozporządzenia (UE) 2018/858 i (UE) 2019/2144, pkt 18 i 19), pojazdy dwu- lub trzykołowe oraz czterokołowce (pkt 14), pojazdy rolnicze i leśne (pkt 15), system kolei (pkt 17), wyposażenie morskie (pkt 16), bezzałogowe statki powietrzne oraz ich silniki, śmigła, części i wyposażenie do zdalnego sterowania statkami powietrznymi na podstawie rozporządzenia (UE) 2018/1139 (pkt 20) oraz maszyny (rozporządzenie (UE) 2023/1230, pkt 21). Rozporządzenie (UE) 2026/1744 przeniosło maszyny z sekcji A do sekcji B. Do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka na podstawie art. 6 ust. 1 i związanych z takimi produktami stosuje się tylko art. 6 ust. 1, art. 60a oraz art. 102–112. Art. 57, 58 i 59 stosuje się tylko w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka zostały włączone do tego unijnego prawodawstwa harmonizacyjnego (art. 2 ust. 2). Art. 9–15, 17, 26 i 99 nie należą do stosowanych przepisów. Art. 2 ust. 2 dotyczy tylko systemów AI sklasyfikowanych jako systemy wysokiego ryzyka na podstawie art. 6 ust. 1; nie ogranicza na przykład art. 4 ani art. 5. Strona przeglądowa o systemach autonomicznych wymienia, co zamiast nich dotyczy tych produktów.

• Produkty z sekcji A: rozdział III stosuje się do systemów wysokiego ryzyka

  Sekcja A załącznika I (pkt 2–12) obejmuje zabawki, rekreacyjne jednostki pływające, dźwigi, urządzenia i systemy ochronne przeznaczone do użytku w atmosferze potencjalnie wybuchowej, urządzenia radiowe, urządzenia ciśnieniowe, urządzenia kolei linowych, środki ochrony indywidualnej, urządzenia spalające paliwa gazowe, wyroby medyczne oraz wyroby medyczne do diagnostyki in vitro. System AI jest systemem wysokiego ryzyka na podstawie art. 6 ust. 1, jeżeli jest przeznaczony do wykorzystywania jako element związany z bezpieczeństwem takiego produktu albo sam jest takim produktem, a produkt podlega ocenie zgodności przeprowadzanej przez stronę trzecią na podstawie tego prawodawstwa. Produkt, który musi zostać poddany ocenie zgodności przez stronę trzecią wyłącznie ze względu na ryzyko inne niż ryzyko dla zdrowia i bezpieczeństwa, w szczególności ryzyko związane z dystrybucją widma radiowego lub zakłóceniami elektromagnetycznymi niemającymi wpływu na zdrowie i bezpieczeństwo, nie jest uznawany za spełniający ten warunek (art. 6 ust. 1c). Wymogi dla tych systemów stosuje się od 2 sierpnia 2028 (art. 113 lit. c) ppkt (ii)). Art. 2 ust. 13 pozwala ograniczyć stosowanie szczególnych wymogów z art. 9–15 i 17–25, jeżeli i w zakresie, w jakim prawodawstwo z sekcji A przewiduje wymogi zapewniające równoważny lub wyższy poziom ochrony, a ograniczenie nie obniża ogólnego poziomu ochrony. Komisja ma przyjąć w tej sprawie akty delegowane do 2 sierpnia 2027.

• Załącznik III pkt 2: ruch drogowy, zaopatrzenie w media i infrastruktura cyfrowa

  Załącznik III pkt 2 obejmuje systemy AI przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy w zarządzaniu krytyczną infrastrukturą cyfrową i ruchem drogowym oraz w ich działaniu, a także w zaopatrzeniu w wodę, gaz, ciepło lub energię elektryczną. Tekst załącznika III nie wymienia żadnego pojazdu, statku powietrznego, drona ani robota. To, czy dany system jest elementem związanym z bezpieczeństwem w jednym z tych obszarów, jest pytaniem do prawnika. Wymogi dla tych zastosowań z załącznika III stosuje się od 2 grudnia 2027 (art. 113 lit. c) ppkt (i)).

• Art. 6 ust. 3 może wyłączyć system z załącznika III

  System objęty pkt 2 jest systemem wysokiego ryzyka na podstawie art. 6 ust. 2. Zgodnie z art. 6 ust. 3 nie jest nim, jeżeli nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych. Obejmuje to brak znaczącego wpływu na wynik procesu decyzyjnego. Wyjątek ten stosuje się, gdy spełniony jest którykolwiek z następujących warunków (art. 6 ust. 3 lit. a)–d)). System jest przeznaczony do wykonywania wąsko określonego zadania proceduralnego. Albo jest przeznaczony do poprawienia wyniku zakończonej uprzednio czynności wykonywanej przez człowieka. Albo jest przeznaczony do wykrywania wzorców podejmowania decyzji lub odstępstw od wzorców podjętych uprzednio decyzji. Nie ma on na celu zastąpienia ani wywarcia wpływu na zakończoną uprzednio ocenę dokonaną przez człowieka bez odpowiedniej weryfikacji przez człowieka. Albo jest przeznaczony do wykonywania zadań przygotowawczych w kontekście oceny istotnej z punktu widzenia przypadków wykorzystania wymienionych w załączniku III. To, jak te warunki łączą się z testem znaczącego ryzyka, jest pytaniem do prawnika. System zawsze jest systemem wysokiego ryzyka, jeżeli dokonuje profilowania osób fizycznych. Profilowanie definiuje art. 4 pkt 4 RODO (art. 3 pkt 52). Dostawca, który powołuje się na wyjątek, dokumentuje swoją ocenę przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku. Musi też zarejestrować system (art. 6 ust. 4, art. 49 ust. 2).

• Objęte są tylko elementy związane z bezpieczeństwem

  Element związany z bezpieczeństwem to element produktu lub systemu AI, który spełnia funkcję bezpieczeństwa w przypadku tego produktu lub systemu AI lub którego awaria bądź nieprawidłowe działanie zagrażają zdrowiu i bezpieczeństwu osób lub mienia. Element spełnia funkcję bezpieczeństwa, gdy jego przeznaczeniem jest zapobieganie ryzyku dla zdrowia i bezpieczeństwa osób lub mienia albo jego ograniczanie (art. 3 pkt 14). Systemy AI, które są wykorzystywane wyłącznie do niezwiązanych z bezpieczeństwem aspektów pomocy użytkownikom, optymalizacji skuteczności działania, efektywności usług, automatyzacji lub udogodnień czy kontroli jakości, nie kwalifikują się jako elementy związane z bezpieczeństwem (art. 6 ust. 1a). Systemy AI, których awaria lub nieprawidłowe działanie zagrażałyby zdrowiu i bezpieczeństwu, kwalifikują się jako takie elementy (art. 6 ust. 1b). To, czy dana funkcja sterowania, nawigacji lub udogodnienia jest elementem związanym z bezpieczeństwem, jest pytaniem do prawnika.

• Dostawca i podmiot wdrażający

  Dostawca rozwija system AI lub zleca jego rozwój i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym (art. 3 pkt 3). Oddanie do użytku obejmuje dostarczenie systemu do użytku własnego dostawcy (art. 3 pkt 11). W przypadku elementu związanego z bezpieczeństwem produktu z sekcji A producent produktu jest dostawcą, jeżeli system jest wprowadzany do obrotu razem z produktem pod nazwą lub znakiem towarowym producenta albo jest oddawany do użytku pod tą nazwą lub znakiem towarowym po wprowadzeniu produktu do obrotu (art. 25 ust. 3). Operator floty, operator zakładu lub zarząd dróg, który wykorzystuje system pod swoją kontrolą, jest podmiotem wdrażającym (art. 3 pkt 4). Podmiot wdrażający staje się dostawcą w trzech przypadkach. Umieszcza swoją nazwę lub znak towarowy na systemie wysokiego ryzyka już wprowadzonym do obrotu, bez uszczerbku dla ustaleń umownych przewidujących, że podział obowiązków następuje w inny sposób. Wprowadza istotną zmianę w takim systemie, po której pozostaje on systemem wysokiego ryzyka. Albo zmienia przeznaczenie systemu niebędącego systemem wysokiego ryzyka tak, że staje się on takim systemem (art. 25 ust. 1). Dostawcy, który pierwotnie wprowadził system do obrotu lub oddał go do użytku, nie uznaje się wtedy już za dostawcę tego konkretnego systemu i musi on ściśle współpracować z nowym dostawcą (art. 25 ust. 2). Nie dotyczy to sytuacji, gdy pierwotny dostawca wyraźnie określił, że jego system nie może zostać zmieniony w system AI wysokiego ryzyka.

• Dostawcy przechowują rejestry pod swoją kontrolą

  Dostawcy muszą przechowywać rejestry generowane automatycznie przez ich systemy wysokiego ryzyka, w zakresie, w jakim rejestry te znajdują się pod ich kontrolą (art. 19 ust. 1). Bez uszczerbku dla mającego zastosowanie prawa Unii lub prawa krajowego okres musi być stosowny ze względu na przeznaczenie i wynosić co najmniej sześć miesięcy. Może być inny, jeżeli stanowi tak prawo Unii lub prawo krajowe, w szczególności dotyczące ochrony danych osobowych.

• Podmioty wdrażające przechowują rejestry pod swoją kontrolą

  Podmioty wdrażające muszą przechowywać rejestry generowane automatycznie przez system, w zakresie, w jakim rejestry te znajdują się pod ich kontrolą (art. 26 ust. 6). Okres musi być stosowny ze względu na przeznaczenie i wynosić co najmniej sześć miesięcy. Może być inny, jeżeli stanowi tak mające zastosowanie prawo Unii lub prawo krajowe, w szczególności dotyczące ochrony danych osobowych.

• Poważne incydenty: śmierć, poważny uszczerbek, infrastruktura krytyczna

  Poważny incydent obejmuje incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzą do śmierci osoby lub poważnego uszczerbku na jej zdrowiu, do poważnej szkody na mieniu lub poważnej szkody dla środowiska albo do poważnego i nieodwracalnego zakłócenia w zarządzaniu infrastrukturą krytyczną lub jej działaniu (art. 3 pkt 49 lit. a), b) i d)). Dostawca systemu wysokiego ryzyka zgłasza go organom nadzoru rynku państwa członkowskiego, w którym wystąpił incydent (art. 73 ust. 1). Zgłoszenia dokonuje się natychmiast po ustaleniu przez dostawcę związku przyczynowego lub dostatecznie wysokiego prawdopodobieństwa jego wystąpienia, nie później jednak niż w terminie 15 dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot wdrażający dowiedzieli się o wystąpieniu incydentu. W przypadku śmierci osoby termin wynosi 10 dni, a w przypadku powszechnego naruszenia lub zakłócenia infrastruktury krytycznej dwa dni (art. 73 ust. 2, 3 i 4). Podmiot wdrażający, który zidentyfikował poważny incydent, informuje najpierw dostawcę, następnie importera lub dystrybutora oraz właściwe organy nadzoru rynku (art. 26 ust. 5).

• Terminy

  Sekcja A: wymogi rozdziału III sekcji 1–3 stosuje się do systemów AI sklasyfikowanych jako systemy wysokiego ryzyka na podstawie art. 6 ust. 1 od 2 sierpnia 2028 (art. 113 lit. c) ppkt (ii)). Załącznik III pkt 2: od 2 grudnia 2027 (lit. c) ppkt (i)). Sekcja B: art. 9–15 nie mają daty, ponieważ się ich nie stosuje (art. 2 ust. 2); art. 102–110 stosuje się od 27 lipca 2026 (lit. d)). System wprowadzony do obrotu lub oddany do użytku przed datą rozpoczęcia stosowania jest objęty rozporządzeniem tylko wtedy, gdy po tej dacie jego projekt ulegnie istotnym zmianom. W każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2).

• Kary pieniężne

  Dostawcy muszą zapewnić, aby ich systemy AI wysokiego ryzyka spełniały wymogi sekcji 2 rozdziału III, która obejmuje art. 9–15 (art. 16 lit. a)). Naruszenie obowiązków dostawców z art. 16 lub obowiązków podmiotów wdrażających z art. 26 może skutkować karą pieniężną. Kara wynosi do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4 lit. a) i e)). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). To samo dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne (art. 99 ust. 8). W przypadku produktów z sekcji B art. 99 nie należy do przepisów, które art. 2 ust. 2 wymienia jako stosowane.

• Zakres rozporządzenia i jego granice

  Rozporządzenie stosuje się do dostawców i podmiotów wdrażających, którzy mają siedzibę lub znajdują się w państwie trzecim, w przypadku gdy wyniki wytworzone przez system AI są wykorzystywane w Unii (art. 2 ust. 1 lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres stosowania prawa Unii i nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego (art. 2 ust. 3). Nie dotyczy ono systemów AI, jeżeli i o ile są wprowadzane do obrotu, oddawane do użytku lub wykorzystywane, ze zmianami lub bez nich, wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6). Nie stosuje się go do działalności badawczej, testowej ani rozwojowej przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku. Wyłączenie to nie obejmuje testów w warunkach rzeczywistych (art. 2 ust. 8). Systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania są poza zakresem rozporządzenia. Wyłączenie to nie ma zastosowania, jeżeli są one wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka albo objęte art. 5 lub 50 (art. 2 ust. 12). Rozporządzenia nie stosuje się do obowiązków podmiotów wdrażających będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10).

• Brak pól rejestru, formatu, reguły ochrony przed manipulacją ani rejestratora

  Poza zapisem „co najmniej sześć miesięcy, o ile przepisy nie stanowią inaczej” rozporządzenie nie wskazuje pól rejestru, formatu ani okresu przechowywania dla systemów z tej strony (art. 19 ust. 1, art. 26 ust. 6). Inne prawo Unii lub prawo krajowe może stanowić inaczej. Art. 12 nie zawiera reguły dotyczącej ochrony przed manipulacją ani wymogu stosowania rejestratora zdarzeń. Samo rozporządzenie nie wskazuje żadnej normy zharmonizowanej. Dla systemów wysokiego ryzyka zgodnych z normami zharmonizowanymi, do których odniesienia opublikowano w Dzienniku Urzędowym, domniemuje się zgodność z wymogami sekcji 2 w zakresie, w jakim normy te je obejmują (art. 40 ust. 1). Komisja ma opracować wytyczne dotyczące praktycznego stosowania wymogów i obowiązków z art. 8–15, 25 i 26 (art. 96 ust. 1 lit. a)) oraz dotyczące związku rozporządzenia z prawodawstwem z załącznika I (lit. e)).

• Przykład: co mógłby zawierać rejestr funkcji bezpieczeństwa

  Przykład, a nie wymóg rozporządzenia: dostawca funkcji bezpieczeństwa opartej na AI dla dźwigu mógłby rejestrować przy każdym użyciu czas, dane z czujników, na których system się oparł, oraz wynik lub działanie, które wywołał. Nieoczekiwane działanie można wtedy prześledzić.

• Przykład: przechowywanie rejestrów podmiotu wdrażającego wraz z dokumentacją eksploatacyjną

  Przykład, a nie wymóg rozporządzenia: podmiot wdrażający mógłby przechowywać rejestry pod swoją kontrolą razem z pozostałą dokumentacją eksploatacyjną. Okres nadal wynosi co najmniej sześć miesięcy, o ile nie stanowi inaczej mające zastosowanie prawo Unii lub prawo krajowe (art. 26 ust. 6).

• Artykuł 12 rozporządzenia AI: rejestrowanie zdarzeń

  Art. 12 dla wszystkich sektorów: wymogi, terminy i kary.

• Rozporządzenie AI: zgodność systemów autonomicznych

  Przegląd systemów autonomicznych: trzy sposoby, w jakie system może być systemem wysokiego ryzyka w pojazdach, bezzałogowych statkach powietrznych, robotach i maszynach, oraz inne przepisy, które mogą mieć zastosowanie.

• Art. 13 dla systemów autonomicznych: przejrzystość i instrukcja obsługi

  Systemy autonomiczne a art. 13: instrukcja obsługi i deklaracja dokładności.

• Art. 72: monitorowanie po wprowadzeniu do obrotu

  Monitorowanie po wprowadzeniu do obrotu, które ma ułatwiać rejestrowanie zdarzeń na podstawie art. 12 ust. 2 lit. b).