Art. 26 w infrastrukturze krytycznej: obowiązki podmiotów wdrażających

Art. 26 nakłada te obowiązki na podmioty wdrażające systemy AI wysokiego ryzyka.

• art. 26(1)
  Stosowanie zgodnie z instrukcją

  Podjąć odpowiednie środki techniczne i organizacyjne, aby system był wykorzystywany zgodnie z instrukcją obsługi.

• art. 26(2)
  Powierzenie nadzoru ze strony człowieka

  Powierzyć sprawowanie nadzoru ze strony człowieka osobom fizycznym, które mają niezbędne kompetencje, przeszkolenie i uprawnienia, a także niezbędne wsparcie.

• art. 26(4)
  Kontrola danych wejściowych

  W zakresie, w jakim podmiot wdrażający sprawuje kontrolę nad danymi wejściowymi, zapewnić, aby były one adekwatne i wystarczająco reprezentatywne w świetle przeznaczenia systemu.

• art. 26(5)
  Monitorować, informować, zawiesić

  Monitorować działanie na podstawie instrukcji obsługi i w stosownych przypadkach informować dostawców. Jeżeli korzystanie z systemu zgodnie z instrukcją może powodować ryzyko w rozumieniu art. 79 ust. 1, bez zbędnej zwłoki poinformować dostawcę lub dystrybutora oraz właściwy organ nadzoru rynku i zawiesić korzystanie z systemu. Po poważnym incydencie niezwłocznie poinformować najpierw dostawcę, a następnie importera lub dystrybutora oraz organy nadzoru rynku. Jeżeli nie można skontaktować się z dostawcą, stosuje się odpowiednio art. 73.

• art. 26(6)
  Przechowywać rejestry zdarzeń

  Przechowywać generowane automatycznie przez system rejestry zdarzeń, w zakresie, w jakim pozostają pod ich kontrolą, przez okres odpowiedni do przeznaczenia systemu, wynoszący co najmniej sześć miesięcy, o ile prawo Unii lub prawo krajowe, w szczególności dotyczące ochrony danych osobowych, nie stanowi inaczej.

• art. 26(7)
  Informować pracowników

  Pracodawcy muszą poinformować przedstawicieli pracowników i zainteresowanych pracowników, zanim oddadzą do użytku lub zaczną wykorzystywać system wysokiego ryzyka w miejscu pracy, że będzie on wobec nich stosowany. Informacje te przekazuje się, w stosownych przypadkach, zgodnie z zasadami i procedurami prawa i praktyki Unii i krajowych w zakresie informowania pracowników i ich przedstawicieli.

• art. 26(8)
  Organy publiczne rejestrują się

  Podmioty wdrażające będące organami publicznymi lub instytucjami, organami i jednostkami organizacyjnymi Unii muszą spełniać obowiązki rejestracyjne z art. 49. Jeżeli stwierdzą, że system AI wysokiego ryzyka, którego użycie planują, nie został zarejestrowany w unijnej bazie danych, o której mowa w art. 71, nie mogą z niego korzystać i informują dostawcę lub dystrybutora. W sprawie systemów z załącznika III pkt 2 zob. wiersz o rejestracji poniżej.

• art. 26(9)
  Ocena skutków dla ochrony danych

  W stosownych przypadkach wykorzystać informacje przekazane na podstawie art. 13 do przeprowadzenia oceny skutków dla ochrony danych na podstawie art. 35 rozporządzenia (UE) 2016/679 lub art. 27 dyrektywy (UE) 2016/680.

• art. 26(11)
  Informować osoby, których dotyczą decyzje

  W przypadku systemów z załącznika III, które podejmują decyzje dotyczące osób fizycznych lub pomagają w ich podejmowaniu, poinformować te osoby, że stosuje się wobec nich system, bez uszczerbku dla art. 50.

• art. 26(12)
  Współpracować z organami

  Współpracować z właściwymi organami w ramach wszelkich działań, jakie podejmują one w związku z systemem AI wysokiego ryzyka.

Art. 26 dotyczy wyłącznie podmiotów wdrażających systemy AI wysokiego ryzyka. Poniższe wiersze pokazują, kiedy AI w infrastrukturze krytycznej staje się systemem wysokiego ryzyka i jakie dalsze reguły dotyczą operatorów i organów.

• Rozporządzenie nie zawiera ogólnego reżimu dla infrastruktury krytycznej

  Rozporządzenie nie zawiera ogólnego reżimu sektorowego dla energii, wody ani transportu. Ta strona używa tego słowa dla AI stosowanej w zaopatrzeniu w energię elektryczną, gaz, ciepło i wodę, w ruchu drogowym oraz w infrastrukturze cyfrowej. Taka AI podlega rozporządzeniu przez załącznik III pkt 2, obszar wysokiego ryzyka zatytułowany „infrastruktura krytyczna”. Rozporządzenie definiuje infrastrukturę krytyczną przez odesłanie do dyrektywy (UE) 2022/2557 (art. 3 pkt 62); motyw 55 łączy krytyczną infrastrukturę cyfrową z pkt 8 załącznika do tej dyrektywy. Pkt 2 wymienia krytyczną infrastrukturę cyfrową, ruch drogowy oraz zaopatrzenie w wodę, gaz, ciepło lub energię elektryczną. Nie wymienia kolei, lotnictwa, transportu morskiego ani narzędzi prognozowania i optymalizacji; czy system pod niego podpada, wynika z jego przeznaczenia (art. 3 pkt 12).

• Załącznik III pkt 2: komponenty związane z bezpieczeństwem

  Załącznik III pkt 2 obejmuje systemy AI przeznaczone do wykorzystywania jako związane z bezpieczeństwem elementy procesów zarządzania krytyczną infrastrukturą cyfrową, ruchem drogowym i procesów ich działania lub zaopatrzenia w wodę, gaz, ciepło lub energię elektryczną. Związany z bezpieczeństwem komponent to komponent produktu lub systemu AI, który spełnia funkcję bezpieczeństwa lub którego awaria bądź nieprawidłowe działanie zagraża zdrowiu i bezpieczeństwu osób lub mienia; komponent spełnia funkcję bezpieczeństwa, gdy jego przeznaczeniem jest zapobieganie ryzyku dla zdrowia i bezpieczeństwa osób lub mienia albo jego łagodzenie (art. 3 pkt 14). Systemy AI wykorzystywane wyłącznie do aspektów niezwiązanych z bezpieczeństwem, takich jak wsparcie użytkownika, optymalizacja wydajności, efektywność usług, automatyzacja, wygoda lub kontrola jakości, nie są komponentami związanymi z bezpieczeństwem; systemy AI, których awaria lub nieprawidłowe działanie zagrażałyby zdrowiu i bezpieczeństwu, nimi są (art. 6 ust. 1a i 1b). Motyw 55, który nie jest przepisem wiążącym, dodaje, że komponenty przeznaczone do wykorzystywania wyłącznie do celów cyberbezpieczeństwa nie powinny być uznawane za komponenty związane z bezpieczeństwem. Art. 6 ust. 5 przewiduje wytyczne Komisji z wyczerpującą listą praktycznych przykładów przypadków użycia wysokiego ryzyka i niewysokiego ryzyka, najpóźniej do 2 lutego 2026 r. Zgodnie z art. 6 ust. 2 systemy AI, o których mowa w załączniku III, uznaje się za systemy wysokiego ryzyka. Dostawca, który uważa, że taki system nie jest systemem wysokiego ryzyka na podstawie art. 6 ust. 3, musi udokumentować swoją ocenę przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku i zarejestrować go zgodnie z art. 49 ust. 2. Odstępstwo nigdy nie ma zastosowania, gdy system dokonuje profilowania osób fizycznych. Profilowanie oznacza profilowanie zgodnie z definicją w art. 4 pkt 4 rozporządzenia (UE) 2016/679 (art. 3 pkt 52).

• Kolej nie jest wymieniona: załącznik I, sekcja B

  System, który jest związanym z bezpieczeństwem komponentem produktu objętego dyrektywą (UE) 2016/797 w sprawie interoperacyjności systemu kolei w Unii Europejskiej (pkt 17 sekcji B załącznika I) i jest systemem wysokiego ryzyka na podstawie art. 6 ust. 1, podlega art. 2 ust. 2: stosuje się tylko art. 6 ust. 1, art. 60a oraz art. 102–112, a art. 57, 58 i 59 stosuje się tylko w zakresie, w jakim wymogi dotyczące systemów AI wysokiego ryzyka określone w rozporządzeniu zostały włączone do tego unijnego prawodawstwa harmonizacyjnego. Art. 9–15, 17 i 26 do nich nie należą.

• Dostawca i podmiot wdrażający

  Dostawca opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą (art. 3 pkt 3); może to być producent oprogramowania sterującego lub zabezpieczającego albo przedsiębiorstwo użyteczności publicznej, które opracowuje system na własny użytek. Osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który wykorzystuje system pod własnym nadzorem, jest podmiotem wdrażającym (art. 3 pkt 4); na przykład operator sieci elektroenergetycznej, gazowej lub ciepłowniczej, wodociągi, zarządca dróg lub operator centrum danych. Podmiot wdrażający staje się dostawcą, jeżeli umieści swoją nazwę lub znak towarowy na systemie wysokiego ryzyka już wprowadzonym do obrotu, wprowadzi istotną zmianę, po której system pozostaje systemem wysokiego ryzyka, albo zmieni przeznaczenie systemu niebędącego systemem wysokiego ryzyka tak, że staje się nim (art. 25 ust. 1). Osoby fizyczne, które korzystają z systemu w ramach czysto osobistej działalności o charakterze nieprofesjonalnym, nie są związane obowiązkami podmiotu wdrażającego (art. 2 ust. 10). Umieszczenie własnej nazwy lub znaku towarowego nie narusza ustaleń umownych, w których obowiązki przydzielono inaczej (art. 25 ust. 1 lit. a)); pierwotny dostawca przestaje wówczas być dostawcą tego systemu i ściśle współpracuje z nowym dostawcą (art. 25 ust. 2).

• Poważne incydenty w infrastrukturze krytycznej

  Poważny incydent obejmuje incydent lub nieprawidłowe działanie systemu AI, które bezpośrednio lub pośrednio prowadzi do poważnego i nieodwracalnego zakłócenia zarządzania infrastrukturą krytyczną lub jej działania (art. 3 pkt 49 lit. b)). Podmiot wdrażający, który stwierdził poważny incydent, niezwłocznie informuje najpierw dostawcę, a następnie importera lub dystrybutora oraz właściwe organy nadzoru rynku (art. 26 ust. 5). Dostawca zgłasza incydent organom nadzoru rynku (art. 73 ust. 1); w przypadku incydentu, o którym mowa w art. 3 pkt 49 lit. b), zgłoszenia dokonuje się natychmiast, nie później jednak niż w terminie dwóch dni od dnia, w którym dostawca lub, w stosownych przypadkach, podmiot wdrażający dowiedzieli się o incydencie (art. 73 ust. 3). Jeżeli dostawca podlega unijnym aktom prawnym przewidującym obowiązki zgłaszania równoważne obowiązkom z rozporządzenia, zgłaszanie poważnych incydentów w odniesieniu do systemów z załącznika III ogranicza się do incydentów, o których mowa w art. 3 pkt 49 lit. c) (art. 73 ust. 9). Rozporządzenie nie mówi, które inne akty są równoważne; zasięgnij porady prawnej.

• Rejestracja systemów z pkt 2 (art. 49)

  Systemy, o których mowa w pkt 2 załącznika III, nie są rejestrowane w unijnej bazie danych ani przez dostawcę, ani przez podmioty wdrażające będące organami publicznymi (art. 49 ust. 1 i 3); rejestruje się je na poziomie krajowym (art. 49 ust. 5). Rozporządzenie nie mówi, jak działa rejestracja krajowa; zapytaj organ krajowy i zasięgnij porady prawnej. Rozporządzenie nie definiuje „organu publicznego”; nie rozstrzyga, czy dany operator nim jest, a ma to znaczenie dla art. 26 ust. 8, art. 49 ust. 3 i art. 111 ust. 2, zgodnie z którym dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030.

• Ocena skutków dla praw podstawowych: pkt 2 jest wyłączony (art. 27)

  Art. 27 ust. 1: przed wdrożeniem systemu AI wysokiego ryzyka, o którym mowa w art. 6 ust. 2, z wyjątkiem systemów przeznaczonych do wykorzystywania w obszarze wymienionym w pkt 2 załącznika III, podmioty wdrażające będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne muszą dokonać oceny wpływu, jaki wykorzystanie systemu może mieć na prawa podstawowe. Operator lub organ, który wdraża system z pkt 2, nie ma zatem w odniesieniu do tego systemu obowiązku z art. 27, niezależnie od tego, czy jest podmiotem prawa publicznego lub świadczy usługę publiczną. Art. 27 ust. 1 może mieć zastosowanie do tego samego podmiotu wdrażającego w odniesieniu do systemu wysokiego ryzyka z innego obszaru załącznika III i obejmuje też podmioty wdrażające systemy z załącznika III pkt 5 lit. b) i c).

• Wyjaśnienie decyzji (art. 86) i informowanie (art. 26 ust. 11)

  Zgodnie z art. 26 ust. 11 podmioty wdrażające systemy AI wysokiego ryzyka z załącznika III, które podejmują decyzje dotyczące osób fizycznych lub pomagają w ich podejmowaniu, muszą informować te osoby, że podlegają stosowaniu takiego systemu. Odrębnie osoba, której dotyczy decyzja podjęta przez podmiot wdrażający na podstawie wyników systemu AI wysokiego ryzyka z załącznika III (z wyjątkiem pkt 2), wywołująca skutki prawne lub w podobny sposób znacząco na nią oddziałująca w sposób, który jej zdaniem ma negatywny wpływ na jej zdrowie, bezpieczeństwo lub prawa podstawowe, ma prawo uzyskać od podmiotu wdrażającego jasne i merytoryczne wyjaśnienia dotyczące roli systemu AI w procesie podejmowania decyzji oraz głównych elementów podjętej decyzji (art. 86 ust. 1). Stosuje się to tylko w zakresie, w jakim prawo to nie jest przewidziane w inny sposób w prawie Unii (art. 86 ust. 3). Ust. 1 nie ma zastosowania, gdy wyjątki lub ograniczenia wynikają z prawa Unii lub prawa krajowego zgodnego z prawem Unii (art. 86 ust. 2). Art. 86 ust. 1 wyłącza systemy wymienione w pkt 2 załącznika III.

• Terminy

  Załącznik III pkt 2 obowiązuje od 2 grudnia 2027 (art. 113 lit. c)). System wprowadzony do obrotu lub oddany do użytku przed tą datą jest objęty rozporządzeniem tylko wtedy, gdy po niej wprowadzono istotne zmiany w jego projekcie; w każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2). Art. 43, 49, 72 i 73 nie są objęte art. 113 lit. c); art. 113 nie podaje dla nich odrębnej daty, a ich wzajemne powiązanie to kwestia dla prawnika.

• Kary

  Naruszenie obowiązków dostawców (art. 16) i podmiotów wdrażających (art. 26) może skutkować karą pieniężną do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). Ten sam pułap dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy określające, w jakim zakresie kary administracyjne mogą być nakładane na organy i podmioty publiczne ustanowione w tym państwie członkowskim (art. 99 ust. 8).

• Granice zakresu stosowania rozporządzenia

  Rozporządzenie stosuje się do dostawców wprowadzających do obrotu lub oddających do użytku systemy AI w Unii albo wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, bez względu na miejsce ich siedziby (art. 2 ust. 1 lit. a)), oraz do dostawców i podmiotów wdrażających z siedzibą w państwie trzecim, jeżeli wyniki działania systemu AI są wykorzystywane w Unii (lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres prawa Unii i nie wpływa na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego; nie stosuje się go też do systemów AI wykorzystywanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Rozporządzenia nie stosuje się do systemów AI ani modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie w celu badań naukowych i prac rozwojowych (art. 2 ust. 6). Nie stosuje się go też do działalności badawczej, testowej i rozwojowej prowadzonej przed wprowadzeniem systemu lub modelu do obrotu lub oddaniem do użytku; testy w warunkach rzeczywistych nie są objęte tym wyłączeniem (art. 2 ust. 8). Nie ma zastosowania do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że zostaną wprowadzone do obrotu lub oddane do użytku jako systemy AI wysokiego ryzyka lub jako systemy AI objęte art. 5 lub 50 (art. 2 ust. 12).

• Kompetencje w zakresie AI (art. 4)

  Dostawcy i podmioty wdrażające systemy AI muszą podejmować środki, które wspierają rozwój kompetencji w zakresie AI wśród ich personelu i innych osób zajmujących się działaniem i wykorzystaniem systemów AI w ich imieniu, z uwzględnieniem ich wiedzy technicznej, doświadczenia, wykształcenia i wyszkolenia oraz kontekstu wykorzystania (art. 4 ust. 1). Dotyczy to systemów AI w ogóle, nie tylko systemów wysokiego ryzyka. Rozdział I, w którym znajduje się art. 4, obowiązuje od 2 lutego 2025 (art. 113 lit. a)). Obowiązek ten nie oznacza, że mają zapewniać osiągnięcie określonego poziomu kompetencji w zakresie AI przez poszczególne osoby. Kompetencje, wyszkolenie i uprawnienia osób, którym powierzono nadzór ludzki, wymaga odrębnie art. 26 ust. 2.

• Brak liczb dotyczących personelu i szkoleń

  Art. 26 nie ustala poziomu obsady, liczby godzin szkolenia ani kwalifikacji osób nadzorujących system. Wymaga niezbędnych kompetencji, przeszkolenia, uprawnień oraz wsparcia (art. 26 ust. 2). Komisja opracowuje wytyczne dotyczące stosowania wymogów i obowiązków z art. 8–15 oraz art. 25 i 26 (art. 96 ust. 1 lit. a)).

• Przechowywanie rejestrów zdarzeń

  Art. 12 ust. 1 wymaga, aby systemy AI wysokiego ryzyka technicznie umożliwiały automatyczne rejestrowanie zdarzeń (logów) w całym cyklu życia systemu; jest to obowiązek projektowy dostawcy. Art. 26 ust. 6 ustala co najmniej sześć miesięcy dla logów pozostających pod kontrolą podmiotu wdrażającego i ustępuje innemu prawu Unii lub prawu krajowemu, w szczególności o ochronie danych osobowych. Rozporządzenie nie wskazuje okresu przechowywania dla infrastruktury krytycznej.

• Wybór projektowy: role nadzorcze

  Powszechny wybór projektowy, a nie wymóg rozporządzenia: wyznaczyć osoby nadzorujące według roli dla każdej nastawni lub lokalizacji i udokumentować ich szkolenie.

• Zatrzymanie systemu: obowiązek projektowy dostawcy

  Art. 14 ust. 4 lit. e) wymaga, aby system był udostępniany w taki sposób, by osoby, którym powierzono nadzór ludzki, mogły, stosownie i proporcjonalnie, ingerować w jego działanie lub przerwać je za pomocą przycisku „stop” lub podobnej procedury umożliwiającej zatrzymanie systemu w stanie bezpiecznym. Jest to obowiązek projektowy dostawcy. Art. 26 ust. 2 wymaga, aby podmiot wdrażający powierzył nadzór osobom o niezbędnych kompetencjach, przeszkoleniu i uprawnieniach. Rozporządzenie nie mówi, kto może zatrzymać proces przemysłowy ani kiedy.

• Inne przepisy obowiązują równolegle

  Art. 26 ust. 1 i 2 pozostają bez uszczerbku dla innych obowiązków podmiotów wdrażających wynikających z prawa Unii lub prawa krajowego (art. 26 ust. 3). To, czy po incydencie należy dokonać także zgłoszenia na podstawie innego aktu, rozstrzyga ten akt, a nie rozporządzenie o AI.

• Artykuł 26: obowiązki podmiotu wdrażającego AI wysokiego ryzyka

  Art. 26 dla wszystkich sektorów: kto jest podmiotem wdrażającym, obowiązki, art. 27 i kary.

• Rozporządzenie AI infrastruktura krytyczna

  Przegląd infrastruktury krytycznej: jak rozporządzenie obejmuje AI w energetyce, gospodarce wodnej, ruchu drogowym i infrastrukturze cyfrowej.

• Art. 17 dla AI w infrastrukturze krytycznej: system zarządzania jakością

  AI w infrastrukturze krytycznej a art. 17: 13 aspektów i kto jest dostawcą.

• Załącznik III szczegółowo: 8 kategorii wysokiego ryzyka

  Osiem obszarów załącznika III, w tym infrastruktura krytyczna.