Art. 15 dla systemów autonomicznych: dokładność, solidność i cyberbezpieczeństwo

Art. 15 określa wymogi projektowe dla dostawcy. Nie podaje żadnej wartości dokładności dla żadnego sektora.

• art. 15(1)
  Odpowiedni poziom w całym cyklu życia

  Systemy AI wysokiego ryzyka projektuje się i opracowuje tak, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa oraz aby pod tymi względami działały spójnie w całym cyklu życia.

• art. 15(2)
  Wzorce porównawcze wspiera Komisja

  Komisja zachęca, w stosownych przypadkach, do opracowywania wzorców porównawczych i metod pomiarowych, we współpracy z zainteresowanymi stronami, takimi jak organy metrologiczne i organy ds. analizy porównawczej. To nie jest obowiązek dostawcy.

• art. 15(3)
  Deklarowanie poziomów i wskaźników

  Poziomy dokładności i odpowiednie wskaźniki dokładności podaje się w dołączonej instrukcji obsługi.

• art. 15(4)
  Odporność na błędy i pętle sprzężenia zwrotnego

  Systemy muszą być możliwie odporne na błędy, usterki i niespójności, które mogą wystąpić w systemie lub w środowisku jego działania, w szczególności z powodu interakcji z osobami fizycznymi lub innymi systemami. Podejmuje się środki techniczne i organizacyjne; jako opcje wymieniono redundancję techniczną oraz plany zapasowe lub zapewniające bezpieczeństwo. System, który uczy się dalej po wprowadzeniu do obrotu, projektuje się tak, aby wyeliminować lub w maksymalnym stopniu ograniczyć ryzyko, że stronnicze wyniki wpłyną na dane wejściowe w przyszłości (pętle sprzężenia zwrotnego).

• art. 15(5)
  Cyberbezpieczeństwo wobec nieuprawnionych osób trzecich

  Systemy muszą być odporne na próby nieuprawnionych osób trzecich zmiany ich wykorzystania, wyników lub działania przez wykorzystanie słabych punktów. Rozwiązania techniczne obejmują w stosownych przypadkach środki przeciwko zatruwaniu danych, zatruwaniu modelu, przykładom kontradyktoryjnym lub uchylaniu się modelu, atakom na poufność i wadom modelu.

Art. 15 dotyczy wyłącznie systemów AI wysokiego ryzyka. Poniższe wiersze pokazują, które systemy autonomiczne obejmuje, a których nie.

• „Systemy autonomiczne” nie są kategorią rozporządzenia

  Rozporządzenie nie zna kategorii „systemy autonomiczne”; jego definicja systemu AI odnosi się do działania z różnym poziomem autonomii (art. 3 pkt 1). Ta strona używa tego słowa dla AI w pojazdach, dronach, robotach i maszynach oraz dla AI wspierającej zarządzanie ruchem drogowym. Taka AI może być systemem wysokiego ryzyka trzema drogami i to droga decyduje, jakie przepisy dotyczące wysokiego ryzyka mają zastosowanie: załącznik I sekcja B (art. 2 ust. 2 ogranicza przepisy do kilku artykułów), załącznik I sekcja A (wymogi rozdziału III od 2 sierpnia 2028, jeżeli system jest systemem wysokiego ryzyka na podstawie art. 6 ust. 1) oraz załącznik III pkt 2 (wymogi rozdziału III od 2 grudnia 2027). Inne przepisy nie zależą od drogi: art. 4 i 5, art. 50, art. 53 dla dostawców modeli oraz pozostałe punkty załącznika III. Art. 2 ust. 2 ogranicza tylko systemy AI będące systemami wysokiego ryzyka na podstawie art. 6 ust. 1 w produktach z sekcji B. Najpierw ustal swoją drogę wysokiego ryzyka.

• Pojazdy, statki powietrzne, kolej, wyposażenie morskie i maszyny: załącznik I sekcja B

  Sekcja B załącznika I wymienia m.in. pojazdy silnikowe (rozporządzenia (UE) 2018/858 i 2019/2144), pojazdy dwu- lub trzykołowe (rozporządzenie (UE) nr 168/2013), pojazdy rolnicze i leśne (rozporządzenie (UE) nr 167/2013), system kolei (dyrektywa (UE) 2016/797), wyposażenie morskie (dyrektywa 2014/90/UE), bezzałogowe statki powietrzne oraz ich silniki, śmigła, części i wyposażenie do zdalnego sterowania, w zakresie objętym rozporządzeniem (UE) 2018/1139, a także maszyny (rozporządzenie (UE) 2023/1230, przeniesione z sekcji A do sekcji B rozporządzeniem (UE) 2026/1744). W przypadku systemu AI, który jest systemem wysokiego ryzyka na podstawie art. 6 ust. 1 i dotyczy takiego produktu, stosuje się tylko art. 6 ust. 1, art. 60a oraz art. 102–112 (art. 2 ust. 2); art. 57, 58 i 59 stosuje się tylko w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka zostały włączone do tego unijnego prawodawstwa harmonizacyjnego. Art. 9–15, 17 i 26 do nich nie należą. Zamiast tego art. 102–109 dodają do ośmiu z tych aktów zasadę, że Komisja uwzględnia wymogi rozdziału III sekcji 2, gdy przyjmuje wymienione w nich akty dotyczące systemów AI. Dla maszyn art. 3 pkt 1 rozporządzenia (UE) 2026/1744 zobowiązuje Komisję do przyjęcia aktów delegowanych dodających wymogi w zakresie zdrowia i bezpieczeństwa dla takich systemów AI, odzwierciedlających rozdział III sekcję 2 oraz art. 17, 19, 72 i 73; akty te mają się stosować najpóźniej od 2 sierpnia 2028.

• Produkty z sekcji A i załącznik III pkt 2: obowiązuje rozdział III

  Dwie drogi uruchamiają wymogi rozdziału III. Po pierwsze, system AI jest systemem wysokiego ryzyka na podstawie art. 6 ust. 1, jeżeli jest przeznaczony do wykorzystania jako związany z bezpieczeństwem komponent produktu objętego prawodawstwem z załącznika I lub sam jest takim produktem, a produkt ten musi przejść ocenę zgodności przeprowadzaną przez stronę trzecią na podstawie tego prawodawstwa. Sekcja A (pkt 2–12) obejmuje na przykład dźwigi, instalacje kolei linowych, jednostki rekreacyjne i wyroby medyczne; rozdział III stosuje się do takich systemów od 2 sierpnia 2028 (art. 113 lit. c) ppkt (ii)). Związany z bezpieczeństwem komponent to komponent, który pełni funkcję bezpieczeństwa lub którego awaria lub nieprawidłowe działanie zagraża zdrowiu i bezpieczeństwu osób lub mieniu (art. 3 pkt 14); AI wykorzystywana wyłącznie do aspektów niezwiązanych z bezpieczeństwem, takich jak optymalizacja wydajności, automatyzacja lub wygoda, nim nie jest, ale AI, której awaria zagrażałaby zdrowiu i bezpieczeństwu, jest (art. 6 ust. 1a i 1b). Produkt, który musi przejść ocenę zgodności przez stronę trzecią wyłącznie z powodu ryzyka innego niż dla zdrowia i bezpieczeństwa, takiego jak wykorzystanie widma radiowego lub zakłócenia elektromagnetyczne niewpływające na zdrowie i bezpieczeństwo, nie spełnia tego warunku (art. 6 ust. 1c); dotyczy to na przykład urządzeń radiowych (pkt 6). Po drugie, załącznik III pkt 2 obejmuje systemy AI przeznaczone do wykorzystania jako związane z bezpieczeństwem komponenty w zarządzaniu krytyczną infrastrukturą cyfrową i ruchem drogowym oraz w ich obsłudze, a także w zaopatrzeniu w wodę, gaz, ciepło lub energię elektryczną; rozdział III stosuje się do nich od 2 grudnia 2027 (art. 113 lit. c) ppkt (i)). Według swojego brzmienia pkt 2 wymienia zarządzanie ruchem drogowym i jego obsługę, a nie pojazdy.

• Dostawca i podmiot wdrażający

  Dostawca opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym (art. 3 pkt 3). W przypadku systemu AI wysokiego ryzyka, który jest związanym z bezpieczeństwem komponentem produktu z sekcji A, producent produktu jest dostawcą, jeżeli system wprowadzono do obrotu razem z produktem pod nazwą lub znakiem towarowym producenta albo oddano go do użytku pod tą nazwą lub znakiem po wprowadzeniu produktu do obrotu (art. 25 ust. 3). Art. 15 to obowiązek dostawcy dotyczący projektowania. Operator floty, zakładu lub ruchu, który tylko używa systemu, jest podmiotem wdrażającym (art. 3 pkt 4) i nie ma obowiązku z art. 15; podmiot wdrażający staje się dostawcą w przypadkach z art. 25 ust. 1.

• Terminy

  Systemy z załącznika III pkt 2 muszą spełniać wymogi rozdziału III od 2 grudnia 2027, a systemy z sekcji A od 2 sierpnia 2028 (art. 113 lit. c)). Dla systemów z sekcji B nie obowiązuje żadna data dotycząca art. 9–15, 17 i 26, ponieważ te artykuły ich nie dotyczą; zgodnie z art. 113 lit. c) ppkt (ii) rozdział III sekcje 1–3, do których należy art. 6, stosuje się do systemów z załącznika I od 2 sierpnia 2028, a art. 102–110 stosuje się od 27 lipca 2026 (art. 113 lit. c) ppkt (ii) i lit. d)). System wprowadzony do obrotu lub oddany do użytku przed datą rozpoczęcia stosowania rozdziału III jest objęty rozporządzeniem tylko wtedy, gdy po niej wprowadzono istotne zmiany w jego projekcie; w każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2).

• Kary

  Naruszenie obowiązków dostawców (art. 16) i podmiotów wdrażających (art. 26) może skutkować karą pieniężną do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). Ten sam pułap dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy określające, w jakim zakresie kary administracyjne mogą być nakładane na organy i podmioty publiczne ustanowione w tym państwie członkowskim (art. 99 ust. 8). Art. 99 nie należy do przepisów, które zgodnie z art. 2 ust. 2 stosuje się do systemów AI wysokiego ryzyka na podstawie art. 6 ust. 1 w produktach z sekcji B.

• Granice zakresu stosowania rozporządzenia

  Rozporządzenie stosuje się do dostawców wprowadzających do obrotu lub oddających do użytku systemy AI w Unii albo wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, bez względu na miejsce ich siedziby (art. 2 ust. 1 lit. a)), oraz do dostawców i podmiotów wdrażających z siedzibą w państwie trzecim, jeżeli wyniki działania systemu AI są wykorzystywane w Unii (lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres prawa Unii i nie wpływa na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego; nie stosuje się go też do systemów AI wykorzystywanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Rozporządzenia nie stosuje się do systemów AI ani modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie w celu badań naukowych i prac rozwojowych (art. 2 ust. 6). Nie stosuje się go też do działalności badawczej, testowej i rozwojowej prowadzonej przed wprowadzeniem systemu lub modelu do obrotu lub oddaniem do użytku; testy w warunkach rzeczywistych nie są objęte tym wyłączeniem (art. 2 ust. 8). Nie ma zastosowania do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że zostaną wprowadzone do obrotu lub oddane do użytku jako systemy AI wysokiego ryzyka lub jako systemy AI objęte art. 5 lub 50 (art. 2 ust. 12).

• Brak wartości dokładności dla systemów autonomicznych

  Art. 15 nie podaje dla żadnego sektora wskaźnika dokładności, wartości minimalnej, metody testowania ani normy, także dla systemów autonomicznych. Dostawca deklaruje poziomy i odpowiednie wskaźniki (art. 15 ust. 3). Normy zharmonizowane, do których odniesienia opublikowano w Dzienniku Urzędowym, dają domniemanie zgodności w zakresie, w jakim obejmują wymogi (art. 40 ust. 1); opublikowany certyfikat cyberbezpieczeństwa na podstawie rozporządzenia (UE) 2019/881 daje je w odniesieniu do wymogów cyberbezpieczeństwa w zakresie, w jakim je obejmuje (art. 42 ust. 2). Systemy objęte zakresem rozporządzenia (UE) 2024/2847, które spełniają warunki art. 12 ust. 1 tego rozporządzenia, uznaje się za zgodne z wymogami cyberbezpieczeństwa z art. 15 (art. 42 ust. 3). Komisja opracowuje wytyczne dotyczące stosowania wymogów i obowiązków z art. 8–15 oraz art. 25 i 26 (art. 96 ust. 1 lit. a)).

• Normy sektorowe i przepisy o homologacji nie są obowiązkami z rozporządzenia

  Rozporządzenie nie wymienia żadnej normy ISO, UNECE ani innej normy sektorowej. Jakie zasady dotyczące dokładności, solidności lub cyberbezpieczeństwa musi spełniać produkt z sekcji B, wynika z jego prawa sektorowego, a nie z art. 15; rozporządzenie nie wpływa na inne akty prawne Unii dotyczące ochrony konsumentów i bezpieczeństwa produktów (art. 2 ust. 9). Komisja opracowuje wytyczne dotyczące związku rozporządzenia z unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I oraz z innymi odpowiednimi przepisami prawa Unii (art. 96 ust. 1 lit. e)).

• Sekcja A: wymogi mogą zostać ograniczone (art. 2 ust. 13)

  W przypadku systemów AI wysokiego ryzyka, o których mowa w art. 6 ust. 1, stosowanie szczególnych wymogów lub obowiązków z art. 9–15 i 17–25 może zostać ograniczone w zakresie, w jakim unijne prawodawstwo harmonizacyjne wymienione w sekcji A załącznika I ustanawia wymogi lub obowiązki zapewniające równoważny lub wyższy poziom ochrony, a ograniczenie nie obniża ogólnego poziomu ochrony przewidzianego w rozporządzeniu (art. 2 ust. 13). Komisja ma przyjąć do 2 sierpnia 2027 akty delegowane określające systemy, których to dotyczy, wymogi, które mogą zostać ograniczone, warunki i zakres. Według naszej lektury art. 2 ust. 13 samo rozporządzenie nie mówi, które wymogi są ograniczone dla danego produktu z sekcji A; mają to zrobić akty delegowane; zapytaj prawnika.

• Przykład: zadeklarowane wskaźniki dla komponentu zarządzania ruchem

  Przykład, nie wymóg rozporządzenia: dostawca komponentu bezpieczeństwa do zarządzania ruchem drogowym mógłby zadeklarować, jakie wskaźniki dokładności zmierzył i w jakich warunkach drogowych, czujnikowych i pogodowych.

• Przykład: udokumentowanie zachowania w razie awarii

  Przykład, nie wymóg rozporządzenia: dostawca mógłby udokumentować, co system robi, gdy czujnik zawodzi lub dane wejściowe są nieprawdopodobne, na przykład przekazując sterowanie logice bez AI, jako jeden ze sposobów opisania planów zabezpieczających na wypadek awarii, o których mowa w art. 15 ust. 4.

• Artykuł 15 rozporządzenia AI: dokładność, solidność i cyberbezpieczeństwo

  Art. 15 dla wszystkich sektorów: wymogi, terminy i kary.

• Rozporządzenie AI: zgodność systemów autonomicznych

  Przegląd systemów autonomicznych: które drogi z rozporządzenia dotyczą pojazdów, statków powietrznych, maszyn i AI w ruchu drogowym.

• Art. 17 dla systemów autonomicznych: system zarządzania jakością

  Systemy autonomiczne i art. 17: system zarządzania jakością i kto jest dostawcą.

• Systemy AI wysokiego ryzyka z załącznika I: ścieżka bezpieczeństwa produktów

  Załącznik I: które systemy AI w produktach regulowanych są systemami wysokiego ryzyka, z sekcjami A i B.