Rozporządzenie AI infrastruktura krytyczna

Rozporządzenie nie zawiera sektorowego reżimu dla infrastruktury krytycznej. Załącznik III pkt 2 to obszar wysokiego ryzyka zatytułowany „Infrastruktura krytyczna”. Ta strona używa tych słów dla AI, która podlega rozporządzeniu przez poniższe punkty.

• Załącznik III pkt 2

  Systemy AI przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy procesów zarządzania krytyczną infrastrukturą cyfrową, ruchem drogowym i procesów ich działania lub zaopatrzenia w wodę, gaz, ciepło lub energię elektryczną są wymienione w załączniku III pkt 2. Są systemami wysokiego ryzyka na podstawie art. 6 ust. 2, z zastrzeżeniem art. 6 ust. 3. Pkt 2 nie ma podpunktów. Nie wymienia transportu kolejowego, lotniczego ani morskiego, portów ani lotnisk. System dla któregokolwiek z tych obszarów jest systemem wysokiego ryzyka tylko wtedy, gdy obejmuje go inny punkt załącznika III lub załącznik I.

• Objęte są tylko elementy związane z bezpieczeństwem

  Element związany z bezpieczeństwem to element produktu lub systemu AI, który spełnia funkcję bezpieczeństwa w przypadku tego produktu lub systemu AI lub którego awaria bądź nieprawidłowe działanie zagrażają zdrowiu i bezpieczeństwu osób lub mienia. Element spełnia funkcję bezpieczeństwa, gdy jego przeznaczeniem jest zapobieganie ryzyku dla zdrowia i bezpieczeństwa osób lub mienia albo jego ograniczanie (art. 3 pkt 14). Systemy AI, które są wykorzystywane wyłącznie do niezwiązanych z bezpieczeństwem aspektów pomocy użytkownikom, optymalizacji skuteczności działania, efektywności usług, automatyzacji lub udogodnień czy kontroli jakości, nie kwalifikują się jako elementy związane z bezpieczeństwem (art. 6 ust. 1a). Systemy AI, których awaria lub nieprawidłowe działanie zagrażałyby zdrowiu i bezpieczeństwu, kwalifikują się jako takie elementy (art. 6 ust. 1b). Art. 6 ust. 5 zobowiązywał Komisję do przedstawienia, nie później niż do 2 lutego 2026 r., wytycznych z wyczerpującym wykazem praktycznych przykładów przypadków wykorzystania systemów AI, które są i które nie są systemami wysokiego ryzyka. Motyw 55 tekstu z 2024 r. opisuje elementy związane z bezpieczeństwem w infrastrukturze krytycznej jako systemy wykorzystywane do bezpośredniej ochrony integralności fizycznej infrastruktury krytycznej lub zdrowia i bezpieczeństwa osób i mienia, które nie są jednak niezbędne do funkcjonowania systemu. Stwierdza, że elementy przeznaczone do wykorzystywania wyłącznie do celów cyberbezpieczeństwa nie powinny kwalifikować się jako takie elementy. Motyw nie jest wiążącą regułą. To, czy dane narzędzie prognostyczne, optymalizacyjne lub do utrzymania ruchu jest elementem związanym z bezpieczeństwem, jest pytaniem do prawnika.

• „Infrastruktura krytyczna” i „krytyczna infrastruktura cyfrowa”

  Art. 3 pkt 62 definiuje „infrastrukturę krytyczną” przez odesłanie do art. 2 pkt 4 dyrektywy (UE) 2022/2557. Rozporządzenie nie definiuje odrębnie „krytycznej infrastruktury cyfrowej”, pojęcia z pkt 2. To, jakie systemy cyfrowe obejmuje, jest pytaniem do prawnika.

• Produkty z załącznika I to odrębna ścieżka

  System AI może być też systemem wysokiego ryzyka na podstawie art. 6 ust. 1. Wymaga to, aby był elementem związanym z bezpieczeństwem produktu albo sam był produktem objętym unijnym prawodawstwem harmonizacyjnym wymienionym w załączniku I, gdy produkt podlega ocenie zgodności przeprowadzanej przez stronę trzecią. Sekcja A załącznika I wymienia na przykład urządzenia ciśnieniowe (pkt 7) i urządzenia spalające paliwa gazowe (pkt 10). Wymogi dla tych systemów stosuje się od 2 sierpnia 2028 (art. 113 lit. c) ppkt (ii)). Sekcja B wymienia na przykład system kolei (pkt 17, dyrektywa (UE) 2016/797). Do systemów wysokiego ryzyka związanych z produktami z sekcji B stosuje się tylko art. 6 ust. 1, art. 60a oraz art. 102–112. Art. 57, 58 i 59 stosuje się tylko w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka zostały włączone do tego prawodawstwa (art. 2 ust. 2). Art. 9–15 nie należą do stosowanych przepisów.

• Art. 6 ust. 3 może wyłączyć system z załącznika III

  System objęty pkt 2 jest systemem wysokiego ryzyka na podstawie art. 6 ust. 2. Zgodnie z art. 6 ust. 3 nie jest nim, jeżeli nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych. Obejmuje to brak znaczącego wpływu na wynik procesu decyzyjnego. Wyjątek ten stosuje się, gdy spełniony jest którykolwiek z następujących warunków (art. 6 ust. 3 lit. a)–d)). System jest przeznaczony do wykonywania wąsko określonego zadania proceduralnego. Albo jest przeznaczony do poprawienia wyniku zakończonej uprzednio czynności wykonywanej przez człowieka. Albo jest przeznaczony do wykrywania wzorców podejmowania decyzji lub odstępstw od wzorców podjętych uprzednio decyzji. Nie ma on na celu zastąpienia ani wywarcia wpływu na zakończoną uprzednio ocenę dokonaną przez człowieka bez odpowiedniej weryfikacji przez człowieka. Albo jest przeznaczony do wykonywania zadań przygotowawczych w kontekście oceny istotnej z punktu widzenia przypadków wykorzystania wymienionych w załączniku III. To, jak te warunki łączą się z testem znaczącego ryzyka, jest pytaniem do prawnika. System zawsze jest systemem wysokiego ryzyka, jeżeli dokonuje profilowania osób fizycznych. Profilowanie definiuje art. 4 pkt 4 RODO (art. 3 pkt 52). Dostawca, który powołuje się na wyjątek, dokumentuje swoją ocenę przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku. Musi też zarejestrować system (art. 6 ust. 4, art. 49 ust. 2).

• Poważne incydenty w infrastrukturze krytycznej

  Poważny incydent obejmuje incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzą do poważnego i nieodwracalnego zakłócenia w zarządzaniu infrastrukturą krytyczną lub jej działaniu (art. 3 pkt 49 lit. b)). Dostawca zgłasza go niezwłocznie, nie później niż dwa dni po tym, jak dostawca lub, w stosownych przypadkach, podmiot wdrażający dowie się o incydencie (art. 73 ust. 3). Podmiot wdrażający, który stwierdził poważny incydent, informuje najpierw dostawcę, a następnie importera lub dystrybutora oraz właściwe organy nadzoru rynku (art. 26 ust. 5). W przypadku systemów z załącznika III wprowadzanych do obrotu lub oddawanych do użytku przez dostawców podlegających unijnym aktom prawnym przewidującym równoważne obowiązki zgłaszania zgłoszenie ogranicza się do incydentów, o których mowa w art. 3 pkt 49 lit. c) (art. 73 ust. 9). To, które akty się liczą, jest pytaniem do prawnika. Art. 113 nie podaje odrębnej daty dla tego przepisu; zob. wiersz o terminach.

Dostawca rozwija system AI lub zleca jego rozwój i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym (art. 3 pkt 3). Oddanie do użytku obejmuje dostarczenie systemu do użytku własnego dostawcy (art. 3 pkt 11). Przedsiębiorstwo sieciowe, gmina lub zarząd dróg, które rozwijają system i oddają go do użytku pod własną nazwą, są więc dostawcą. Kto wykorzystuje system, nad którym sprawuje kontrolę, jest podmiotem wdrażającym (w rozporządzeniu: podmiot stosujący; art. 3 pkt 4). Podmiot wdrażający staje się dostawcą w trzech przypadkach. Umieszcza swoją nazwę lub znak towarowy na systemie wysokiego ryzyka już wprowadzonym do obrotu, bez uszczerbku dla ustaleń umownych przewidujących, że podział obowiązków następuje w inny sposób. Wprowadza istotną zmianę w takim systemie, po której pozostaje on systemem wysokiego ryzyka. Albo zmienia przeznaczenie systemu niebędącego systemem wysokiego ryzyka tak, że staje się on takim systemem (art. 25 ust. 1). Dostawcy, który pierwotnie wprowadził system do obrotu lub oddał go do użytku, nie uznaje się wtedy już za dostawcę tego konkretnego systemu i musi on ściśle współpracować z nowym dostawcą (art. 25 ust. 2). Nie dotyczy to sytuacji, gdy pierwotny dostawca wyraźnie określił, że jego system nie może zostać zmieniony w system AI wysokiego ryzyka.

Dostawcy muszą zapewnić, aby ich systemy AI wysokiego ryzyka spełniały wymogi sekcji 2 rozdziału III, czyli art. 8–15 (art. 16 lit. a)). Muszą też spełniać pozostałe obowiązki dostawców z art. 16.

• art. 9
  System zarządzania ryzykiem

  Ciągły, iteracyjny proces w całym cyklu życia, z testami względem uprzednio określonych wskaźników i progów probabilistycznych stosownych ze względu na przeznaczenie.

• art. 10
  Dane i zarządzanie danymi

  Zbiory danych treningowych, walidacyjnych i testowych spełniające kryteria jakości z art. 10, w tym badanie pod kątem ewentualnej stronniczości.

• art. 12
  Rejestrowanie zdarzeń w projekcie systemu

  System musi dysponować technicznymi możliwościami automatycznego rejestrowania zdarzeń (rejestrów zdarzeń) w całym cyklu życia.

• art. 13
  Instrukcja obsługi

  Informacje, które umożliwiają podmiotom wdrażającym interpretację wyników i ich właściwe wykorzystanie, w tym zadeklarowany poziom dokładności i jego wskaźniki.

• art. 14
  Nadzór ze strony człowieka w projekcie systemu

  Środki, które umożliwiają osobom fizycznym skuteczny nadzór nad systemem w okresie jego wykorzystywania.

• art. 15
  Dokładność, solidność i cyberbezpieczeństwo

  Odpowiedni poziom, osiągany konsekwentnie w całym cyklu życia. Poziomy dokładności i odpowiednie wskaźniki dokładności deklaruje się w instrukcji obsługi.

• art. 17
  System zarządzania jakością

  Pisemne polityki, procedury i instrukcje obejmujące aspekty wymienione w art. 17 ust. 1, wdrażane proporcjonalnie do wielkości organizacji dostawcy (art. 17 ust. 2).

• art. 43(2)
  Ocena zgodności

  W przypadku systemów z pkt 2–8 załącznika III, do których należy pkt 2, dostawca stosuje procedurę oceny zgodności opartą na kontroli wewnętrznej (załącznik VI). Procedura ta nie przewiduje jednostki notyfikowanej. Art. 113 nie podaje odrębnej daty dla tego przepisu; zob. wiersz o terminach.

• art. 16, 49(1), (5)
  Deklaracja zgodności UE, oznakowanie CE i rejestracja

  Dostawca sporządza deklarację zgodności UE i umieszcza oznakowanie CE (art. 16 lit. g) i h)). Art. 49 ust. 1 wyłącza systemy, o których mowa w pkt 2 załącznika III, z rejestracji w bazie danych UE. Zgodnie z art. 49 ust. 5 są one rejestrowane na poziomie krajowym. Art. 113 nie podaje odrębnej daty dla tego przepisu; zob. wiersz o terminach.

• art. 72, 73
  Monitorowanie po wprowadzeniu do obrotu i poważne incydenty

  Dostawca ustanawia i dokumentuje system monitorowania po wprowadzeniu do obrotu (art. 72 ust. 1) i zgłasza poważne incydenty organom nadzoru rynku (art. 73). Art. 113 nie podaje odrębnej daty dla tego przepisu; zob. wiersz o terminach.

• art. 26(1), (2)
  Wykorzystywać zgodnie z instrukcją, powierzyć nadzór

  Podmioty wdrażające podejmują odpowiednie środki techniczne i organizacyjne w celu wykorzystywania systemu zgodnie z instrukcją obsługi. Powierzają nadzór ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia.

• art. 26(4)–(6)
  Dane wejściowe, monitorowanie i rejestry zdarzeń

  W zakresie, w jakim sprawują kontrolę nad danymi wejściowymi, podmioty wdrażające zapewniają ich adekwatność i wystarczającą reprezentatywność. Monitorują działanie systemu w oparciu o instrukcję obsługi. Przechowują rejestry zdarzeń znajdujące się pod ich kontrolą przez co najmniej sześć miesięcy, o ile mające zastosowanie prawo Unii lub prawo krajowe nie stanowi inaczej.

• art. 26(11)
  Informowanie osób, których to dotyczy

  Podmioty wdrażające systemy wysokiego ryzyka z załącznika III, które podejmują decyzje dotyczące osób fizycznych lub uczestniczą w ich podejmowaniu, informują te osoby, że jest w stosunku do nich wykorzystywany system, bez uszczerbku dla art. 50 (art. 26 ust. 11).

• art. 27(1)
  Brak oceny skutków dla praw podstawowych dla pkt 2

  Art. 27 ust. 1 wymaga oceny skutków dla praw podstawowych przed wdrożeniem systemu AI wysokiego ryzyka, o którym mowa w art. 6 ust. 2, „z wyjątkiem systemów AI wysokiego ryzyka przeznaczonych do wykorzystywania w obszarze wymienionym w pkt 2 załącznika III”. Podmiot wdrażający system z pkt 2 nie jest więc w odniesieniu do tego systemu związany art. 27 ust. 1. W przypadku każdego innego systemu wysokiego ryzyka z załącznika III, który wykorzystuje, podmiot wdrażający sprawdza art. 27 ust. 1 osobno.

• art. 49(3), (5), 86(1)
  Brak rejestracji przez podmiot wdrażający w bazie danych UE i brak prawa do wyjaśnienia dla pkt 2

  Art. 49 ust. 3 wymaga od podmiotów wdrażających będących organami publicznymi, instytucjami, organami i jednostkami organizacyjnymi Unii lub osobami działającymi w ich imieniu, aby zarejestrowały się i zarejestrowały wykorzystanie systemu z załącznika III w bazie danych UE. Wyłącza z tego systemy wymienione w pkt 2 załącznika III. Zgodnie z art. 49 ust. 5 systemy z pkt 2 są rejestrowane na poziomie krajowym. Art. 86 ust. 1 daje prawo do wyjaśnienia w odniesieniu do systemów z załącznika III „z wyjątkiem systemów wymienionych w pkt 2”.

• Terminy

  Wymogi dla tych zastosowań z załącznika III stosuje się od 2 grudnia 2027 (art. 113 lit. c) ppkt (i)). System wprowadzony do obrotu lub oddany do użytku przed tą datą jest objęty rozporządzeniem tylko wtedy, gdy po niej jego projekt ulegnie istotnym zmianom. W każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2). Art. 43 i 49 (rozdział III sekcja 5) oraz art. 72 i 73 (rozdział IX) nie mieszczą się w art. 113 lit. c). Art. 113 nie podaje dla nich odrębnej daty, więc według zasady ogólnej stosuje się je od 2 sierpnia 2026. To, jak to się łączy z powyższym terminem, jest pytaniem do prawnika.

• Kary pieniężne

  Dostawcy muszą zapewnić, aby ich systemy AI wysokiego ryzyka spełniały wymogi sekcji 2 rozdziału III, która obejmuje art. 9–15 (art. 16 lit. a)). Naruszenie obowiązków dostawców z art. 16 lub obowiązków podmiotów wdrażających z art. 26 może skutkować karą pieniężną. Kara wynosi do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4 lit. a) i e)). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). To samo dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy dotyczące określenia, w jakim zakresie na organy i podmioty publiczne ustanowione w tym państwie członkowskim można nakładać administracyjne kary pieniężne (art. 99 ust. 8).

• Zakres rozporządzenia i jego granice

  Rozporządzenie stosuje się do dostawców i podmiotów wdrażających, którzy mają siedzibę lub znajdują się w państwie trzecim, w przypadku gdy wyniki wytworzone przez system AI są wykorzystywane w Unii (art. 2 ust. 1 lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres stosowania prawa Unii i nie wpływa ono na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego (art. 2 ust. 3). Nie dotyczy ono systemów AI, jeżeli i o ile są wprowadzane do obrotu, oddawane do użytku lub wykorzystywane, ze zmianami lub bez nich, wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Nie dotyczy ono obowiązków podmiotów wdrażających będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10). Rozporządzenia nie stosuje się do systemów AI lub modeli AI, w tym ich wyników, specjalnie rozwiniętych i oddanych do użytku wyłącznie do celów badań naukowych i rozwojowych (art. 2 ust. 6). Nie stosuje się go do działalności badawczej, testowej ani rozwojowej przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku. Wyłączenie to nie obejmuje testów w warunkach rzeczywistych (art. 2 ust. 8). Systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania są poza zakresem rozporządzenia. Wyłączenie to nie ma zastosowania, jeżeli są one wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka albo objęte art. 5 lub 50 (art. 2 ust. 12).

• Brak progów liczbowych i norm dla infrastruktury

  Rozporządzenie nie wskazuje wartości dokładności, czasu reakcji, poziomu dostępności, poziomu redundancji ani normy technicznej dla elementów związanych z bezpieczeństwem w infrastrukturze krytycznej. Dostawcy ustalają wskaźniki testów (art. 9 ust. 8) i podają poziomy dokładności oraz wskaźniki w instrukcji obsługi (art. 15 ust. 3). Samo rozporządzenie nie wskazuje żadnej normy zharmonizowanej. Dla systemów AI wysokiego ryzyka zgodnych z normami zharmonizowanymi, do których odniesienia opublikowano w Dzienniku Urzędowym, domniemuje się zgodność z wymogami sekcji 2 w zakresie, w jakim normy te je obejmują (art. 40 ust. 1). Art. 42 dodaje domniemania zgodności z art. 10 ust. 4 (ust. 1) oraz z wymogami cyberbezpieczeństwa z art. 15 (ust. 2 i 3). Komisja ma opracować wytyczne dotyczące praktycznego stosowania wymogów i obowiązków z art. 8–15, 25 i 26 (art. 96 ust. 1 lit. a)).

• Inne prawo obowiązuje obok rozporządzenia

  Inne prawo Unii i prawo krajowe nadal obowiązuje, na przykład w zakresie ochrony danych osobowych (art. 2 ust. 7) i bezpieczeństwa produktów (art. 2 ust. 9). Przepisy o bezpieczeństwie sieci i infrastruktury są odrębne od rozporządzenia. Ta strona ich nie opisuje.

• Przykład: jeden wykaz systemów AI

  Przykład, a nie wymóg rozporządzenia: przedsiębiorstwo sieciowe lub zarząd dróg mógłby prowadzić jeden wykaz swoich systemów AI. Mógłby wskazać dla każdego systemu, czy jest elementem związanym z bezpieczeństwem w obszarze z pkt 2, ocenę z art. 6 ust. 3 (jeżeli się na nią powołuje) oraz rolę organizacji: dostawcy lub podmiotu wdrażającego.

Każda strona stosuje jeden artykuł do AI w infrastrukturze krytycznej.

• Art. 9 dla AI w infrastrukturze krytycznej: system zarządzania ryzykiem

  System zarządzania ryzykiem dla AI z elementami związanymi z bezpieczeństwem.

• Art. 10 dla AI w infrastrukturze krytycznej: dane i zarządzanie danymi

  Zbiory danych, badanie pod kątem uprzedzeń i szczególne kategorie danych osobowych.

• Art. 12 dla AI w infrastrukturze krytycznej: rejestrowanie zdarzeń i rejestry

  Automatyczne rejestrowanie, kto przechowuje rejestry i poważne incydenty.

• Art. 13 dla AI w infrastrukturze krytycznej: przejrzystość i instrukcja obsługi

  Instrukcja obsługi i dlaczego art. 86 nie obejmuje pkt 2.

• Art. 14 dla AI w infrastrukturze krytycznej: nadzór ze strony człowieka

  Nadzór ze strony człowieka, procedura zatrzymania i czego rozporządzenie nie wymaga.

• Art. 15 dla AI w infrastrukturze krytycznej: dokładność, solidność i cyberbezpieczeństwo

  Dokładność, solidność i cyberbezpieczeństwo.

• Art. 17 dla AI w infrastrukturze krytycznej: system zarządzania jakością

  System zarządzania jakością.

• Art. 26 w infrastrukturze krytycznej: obowiązki podmiotów wdrażających

  Obowiązki podmiotów wdrażających: przedsiębiorstw sieciowych, gmin i zarządów dróg.

• Art. 50 dla AI w infrastrukturze krytycznej: przejrzystość i ujawnianie

  Obowiązki w zakresie przejrzystości dla chatbotów i treści generowanych.

• Art. 53 w infrastrukturze krytycznej: obowiązki dostawców modeli AI ogólnego przeznaczenia

  Dostawcy modeli AI ogólnego przeznaczenia.

• Załącznik III szczegółowo: 8 kategorii wysokiego ryzyka

  Pkt 2 załącznika III na tle wszystkich ośmiu kategorii.

• Artykuł 6: klasyfikacja systemów AI wysokiego ryzyka

  Jak art. 6 klasyfikuje systemy AI wysokiego ryzyka, w tym elementy związane z bezpieczeństwem i wyjątek z art. 6 ust. 3.

• Artykuł 27: ocena skutków dla praw podstawowych (FRIA)

  Kto musi przeprowadzić ocenę skutków: art. 27 ust. 1 wyłącza systemy z załącznika III pkt 2.