Skip to main content

Art. 13, przejrzystość dla AI w ściganiu: rozporządzenie AI

Co art. 13 oznacza dla dostawców systemów AI wysokiego ryzyka stosowanych w ściganiu: instrukcja obsługi, informacje dla podmiotów wdrażających, obowiązki wobec osób, których dotyczy system, terminy i kary.

Dostawcy systemów AI wysokiego ryzyka dla organów ścigania muszą zapewnić im wystarczającą przejrzystość, aby podmioty wdrażające mogły interpretować wyniki, i dostarczyć instrukcję obsługi (art. 13).

Pkt 6 załącznika III („Ściganie przestępstw”) i pkt 1 (biometria) to obszary wysokiego ryzyka; brak ogólnosektorowego reżimu. Art. 13 ma do nich zastosowanie od 2 grudnia 2027 (art. 113 lit. c pkt i). Naruszenie przez dostawcę może kosztować przedsiębiorstwo do 15 mln EUR lub 3 % światowego rocznego obrotu, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4 lit. a). Państwa członkowskie decydują, w jakim zakresie karane są organy publiczne (art. 99 ust. 8). Następny krok: sprawdzić instrukcję obsługi.

Czego wymaga art. 13

  • art. 13 ust. 1

    Przejrzystość dla podmiotów wdrażających

    Systemy AI wysokiego ryzyka projektuje się i rozwija w sposób zapewniający wystarczającą przejrzystość ich działania, aby podmioty wdrażające mogły interpretować wyniki systemu i odpowiednio z nich korzystać. Zapewnia się odpowiedni rodzaj i stopień przejrzystości, tak aby umożliwić spełnienie odpowiednich obowiązków dostawcy i podmiotu wdrażającego określonych w sekcji 3 (art. 13 ust. 1).

  • art. 13 ust. 2

    Instrukcja obsługi

    Systemy AI wysokiego ryzyka są dostarczane z instrukcją obsługi w odpowiednim formacie cyfrowym lub innym. Zawiera ona zwięzłe, kompletne, poprawne i jasne informacje, które są istotne, dostępne i zrozumiałe dla podmiotów wdrażających (art. 13 ust. 2).

  • art. 13 ust. 3

    Co instrukcja zawiera co najmniej

    (a) Tożsamość i dane kontaktowe dostawcy oraz, w stosownych przypadkach, jego upoważnionego przedstawiciela. (b) Cechy, możliwości i ograniczenia skuteczności działania, w tym przeznaczenie; poziom dokładności wraz ze wskaźnikami, odporności i cyberbezpieczeństwa, względem którego system przetestowano i zwalidowano, oraz okoliczności mogące go wpływać; znane lub dające się przewidzieć okoliczności, które mogą prowadzić do ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych; w stosownych przypadkach możliwości i cechy techniczne umożliwiające dostarczanie informacji istotnych do wyjaśnienia wyników; w odpowiednich przypadkach skuteczność działania wobec określonych osób lub grup; w odpowiednich przypadkach specyfikacje danych wejściowych lub inne istotne informacje o wykorzystanych zbiorach danych treningowych, walidacyjnych i testowych; w stosownych przypadkach informacje umożliwiające podmiotom wdrażającym interpretację wyników i odpowiednie z nich korzystanie. (c) Zmiany systemu z góry określone. (d) Środki nadzoru ze strony człowieka z art. 14, w tym środki techniczne ułatwiające podmiotom wdrażającym interpretację wyników. (e) Potrzebne zasoby obliczeniowe i sprzętowe, oczekiwany okres eksploatacji oraz konserwacja. (f) W stosownych przypadkach opis mechanizmów umożliwiających podmiotom wdrażającym gromadzenie, przechowywanie i interpretację logów zgodnie z art. 12.

Co jest specyficzne dla ścigania

  • art. 3 ust. 46

    Ściganie w rozporządzeniu

    Rozporządzenie nie przewiduje ogólnosektorowego reżimu dla ścigania przestępstw; pkt 6 załącznika III to obszar wysokiego ryzyka zatytułowany „Ściganie przestępstw”. Rozporządzenie definiuje je jako działania organów ścigania lub podejmowane w ich imieniu w celu zapobiegania przestępstwom, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom (art. 3 ust. 46). Zastosowania wysokiego ryzyka wymienia załącznik III: pkt 6 dotyczy ścigania, a pkt 1 biometrii, każdy „w zakresie, w jakim ich wykorzystanie jest dozwolone na mocy odpowiednich przepisów prawa Unii lub prawa krajowego”.

  • art. 26 ust. 11

    Informowanie osób objętych systemem

    Bez uszczerbku dla art. 50 podmioty wdrażające systemy wysokiego ryzyka z załącznik III, które podejmują decyzje dotyczące osób fizycznych lub pomagają w ich podejmowaniu, informują te osoby, że jest w stosunku do nich wykorzystywany system. W przypadku systemów wysokiego ryzyka wykorzystywanych do celów ścigania stosuje się art. 13 dyrektywa (UE) 2016/680 (art. 26 ust. 11). Art. 13 rozporządzenia nie jest tym obowiązkiem.

  • art. 26 ust. 9

    Ocena skutków dla ochrony danych

    W stosownych przypadkach podmioty wdrażające wykorzystują informacje przekazane zgodnie z art. 13, aby spełnić obowiązek przeprowadzenia oceny skutków dla ochrony danych na podstawie art. 35 rozporządzenie (UE) 2016/679 (RODO) lub art. 27 dyrektywa (UE) 2016/680 (art. 26 ust. 9).

  • art. 49 ust. 4

    Rejestracja nie jest publiczna

    W przypadku systemów wysokiego ryzyka z pkt 1, 6 i 7 załącznik III w obszarach ścigania, migracji, azylu i zarządzania kontrolą graniczną rejestracja odbywa się w bezpiecznej, niepublicznej sekcji unijnej bazy danych i obejmuje wyłącznie ograniczone informacje. Dostęp mają tylko Komisja i organy krajowe, o których mowa w art. 74 ust. 8 (art. 49 ust. 4).

  • art. 3 ust. 3, art. 3 ust. 4, art. 25 ust. 1

    Dostawca i podmiot wdrażający

    Dostawca to osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym (art. 3 ust. 3). Podmiot wdrażający (w rozporządzeniu: podmiot stosujący) to taka osoba lub taki podmiot, który wykorzystuje system AI pod własnym kierownictwem, z wyjątkiem użycia w ramach osobistej działalności o charakterze nieprofesjonalnym (art. 3 ust. 4). Organ policji, który kupuje system, jest podmiotem wdrażającym. Staje się dostawcą, jeśli umieści swoją nazwę lub znak towarowy na systemie wysokiego ryzyka znajdującym się już w obrocie, dokona jego istotnej zmiany, po której system pozostaje systemem wysokiego ryzyka, lub zmieni przeznaczenie systemu niebędącego systemem wysokiego ryzyka tak, że stanie się on takim systemem (art. 25 ust. 1).

Terminy, granice i kary

  • art. 113 lit. c pkt i, art. 111 ust. 2

    Terminy

    Wymogi dla systemów wysokiego ryzyka z załącznik III mają zastosowanie od 2 grudnia 2027 (art. 113 lit. c pkt i). System wysokiego ryzyka wprowadzony do obrotu lub oddany do użytku przed tą datą jest objęty rozporządzeniem tylko wtedy, gdy po niej zostanie istotnie zmieniony w swoim projekcie. W każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2). Zakazy z art. 5 ust. 1 lit. d, e, g i h mają zastosowanie od 2 lutego 2025 (art. 113 lit. a).

  • art. 2 ust. 3, art. 2 ust. 6, art. 2 ust. 8

    Granice zakresu stosowania

    Rozporządzenie nie ma zastosowania do obszarów wykraczających poza zakres stosowania prawa Unii ani do systemów AI w zakresie, w jakim są wykorzystywane wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Nie ma zastosowania do organów publicznych państw trzecich ani organizacji międzynarodowych, które wykorzystują systemy AI w ramach współpracy międzynarodowej lub umów o współpracy w zakresie ścigania i współpracy sądowej z Unią lub jednym państwem członkowskim bądź większą ich liczbą, jeżeli to państwo trzecie lub ta organizacja międzynarodowa zapewniają odpowiednie zabezpieczenia w odniesieniu do ochrony praw i wolności podstawowych (art. 2 ust. 4). Nie ma zastosowania do systemów AI lub modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie w celu prowadzenia badań naukowych i prac rozwojowych (art. 2 ust. 6), ani do działalności badawczej, testowej i rozwojowej przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku; testowanie w warunkach rzeczywistych nie jest objęte tym wyłączeniem (art. 2 ust. 8). Nie ma zastosowania do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że zostaną wprowadzone do obrotu lub oddane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub art. 50 (art. 2 ust. 12).

  • art. 99 ust. 4 lit. a, art. 99 ust. 8

    Kary dla dostawców

    Dostawca, który narusza obowiązki z art. 16, w tym obowiązek zapewnienia, by system spełniał wymogi sekcji 2 (art. 16 lit. a), podlega administracyjnej karze pieniężnej do 15 mln EUR lub, jeżeli sprawca jest przedsiębiorstwem, do 3 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4 lit. a). W przypadku MŚP, w tym przedsiębiorstw typu start-up, każda taka kara wynosi do tych wartości procentowych lub tej kwoty, zależnie od tego, która jest niższa (art. 99 ust. 6); to samo dotyczy małych przedsiębiorstw o średniej kapitalizacji (art. 99 ust. 6a; art. 3 ust. 14b). Każde państwo członkowskie określa, w jakim zakresie kary pieniężne mogą być nakładane na organy i podmioty publiczne z siedzibą na jego terytorium (art. 99 ust. 8).

Przykłady i wybory projektowe

  • art. 13 ust. 3

    Przykład: narzędzie do wyszukiwania twarzy

    Przykład: instrukcja narzędzia do wyszukiwania twarzy podaje wskaźniki dokładności, względem których je przetestowano (art. 13 ust. 3 lit. b), oraz w odpowiednich przypadkach skuteczność działania wobec określonych grup osób.

  • art. 13 ust. 1

    Wybór projektowy, a nie wymóg rozporządzenia

    Częsty wybór projektowy, a nie wymóg rozporządzenia: pokazywać obok każdego wyniku wskaźnik pewności lub dopasowania, aby osoba go sprawdzająca mogła go zinterpretować (art. 13 ust. 1).

Najczęściej zadawane pytania

Czy podejrzani mają prawo do informacji na podstawie art. 13?

Nie. Art. 13 jest skierowany do dostawców i służy podmiotom wdrażającym. Informowanie osób objętych użyciem systemu reguluje art. 26 ust. 11, który w przypadku wykorzystania do celów ścigania odsyła do art. 13 dyrektywa (UE) 2016/680.

Czy art. 13 przewiduje wyjątki dla ścigania?

Art. 13 nie zawiera żadnych. Rozporządzenie wyłącza jednak wrażliwe dane operacyjne podmiotów wdrażających będących organami ścigania spod niektórych innych obowiązków, takich jak obowiązek monitorowania i informowania z art. 26 ust. 5 oraz monitorowanie po wprowadzeniu do obrotu przez dostawcę (art. 72 ust. 2).

Czy wpis systemu dla ścigania w rejestrze jest publiczny?

Nie. W przypadku systemów wysokiego ryzyka z pkt 1, 6 i 7 załącznik III w obszarach ścigania, migracji, azylu i zarządzania kontrolą graniczną rejestracja odbywa się w bezpiecznej, niepublicznej sekcji unijnej bazy danych (art. 49 ust. 4).

Scanara przygotowuje dowody na podstawie Państwa repozytoriów

Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.