Rozporządzenie AI organy ścigania: zgodność

art. 5 ust. 1 lit. d

Ocena ryzyka przestępstwa wyłącznie na podstawie profilowania

Zakazane są systemy AI służące do przeprowadzania ocen ryzyka osób fizycznych w celu oceny lub przewidywania ryzyka popełnienia przestępstwa przez osobę, wyłącznie na podstawie profilowania tej osoby lub oceny jej cech osobowości i właściwości. Zakaz nie dotyczy systemów AI wspierających dokonywaną przez człowieka ocenę udziału danej osoby w działalności przestępczej, opartą już na obiektywnych i dających się zweryfikować faktach bezpośrednio związanych z działalnością przestępczą (art. 5 ust. 1 lit. d).

art. 5 ust. 1 lit. e

Bazy rozpoznawania twarzy z nieukierunkowanego pozyskiwania

Zakazane są systemy AI tworzące lub rozbudowujące bazy danych służące rozpoznawaniu twarzy w drodze nieukierunkowanego pozyskiwania wizerunków twarzy z internetu lub nagrań z monitoringu wizyjnego (art. 5 ust. 1 lit. e).

art. 5 ust. 1 lit. h, art. 5 ust. 2, art. 5 ust. 3

Zdalna identyfikacja biometryczna „w czasie rzeczywistym”

Wykorzystywanie takich systemów w przestrzeni publicznej do celów ścigania jest zakazane, chyba że i w zakresie, w jakim jest to bezwzględnie konieczne do: (i) ukierunkowanego poszukiwania konkretnych ofiar uprowadzenia, handlu ludźmi lub wykorzystywania seksualnego oraz poszukiwania osób zaginionych; (ii) zapobieżenia konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego osób fizycznych lub rzeczywistemu i aktualnemu albo rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym; (iii) lokalizowania lub identyfikacji osoby podejrzanej o popełnienie przestępstwa, o którym mowa w załączniku II, zagrożonego karą lub środkiem polegającym na pozbawieniu wolności, których górna granica wynosi co najmniej cztery lata (art. 5 ust. 1 lit. h). Użycie ogranicza się do potwierdzenia tożsamości konkretnie wskazanej osoby i jest dozwolone tylko wtedy, gdy organ przeprowadził ocenę skutków dla praw podstawowych zgodnie z art. 27 i zarejestrował system zgodnie z art. 49; w należycie uzasadnionych sytuacjach pilnych rejestracja może nastąpić bez zbędnej zwłoki (art. 5 ust. 2). Każde użycie wymaga uprzedniego zezwolenia organu sądowego lub niezależnego organu administracyjnego, którego decyzja ma charakter wiążący; w należycie uzasadnionej sytuacji pilnej użycie może się rozpocząć, a zezwolenia należy zażądać w ciągu 24 godzin; w razie odmowy użycie się kończy, a dane są usuwane (art. 5 ust. 3). Każde użycie zgłasza się organowi nadzoru rynku i krajowemu organowi ochrony danych (art. 5 ust. 4). Państwo członkowskie może zdecydować, czy przewidzieć takie użycie (art. 5 ust. 5).

art. 5 ust. 1 lit. g

Kategoryzacja biometryczna: wyłączenie dla ścigania

Zakaz systemów kategoryzacji biometrycznej wnioskujących o rasie, poglądach politycznych, przynależności do związków zawodowych, przekonaniach religijnych lub światopoglądowych, życiu seksualnym lub orientacji seksualnej nie obejmuje etykietowania ani filtrowania zgodnie z prawem pozyskanych zbiorów danych biometrycznych, takich jak obrazy, na podstawie danych biometrycznych ani kategoryzacji danych biometrycznych w obszarze ścigania (art. 5 ust. 1 lit. g).

art. 5 ust. 1

Pozostała część art. 5

Art. 5 ust. 1 zakazuje także technik podprogowych lub manipulacyjnych (lit. a), wykorzystywania słabości (lit. b), pewnych generowanych materiałów intymnych lub o charakterze wykorzystania (lit. ba i bb), scoringu społecznego (lit. c) oraz wnioskowania o emocjach w miejscu pracy i w instytucjach edukacyjnych, z wyjątkiem względów medycznych lub bezpieczeństwa (lit. f). Nie są one specyficzne dla ścigania; zob. stronę o art. 5.

art. 3 ust. 46

Ściganie w rozporządzeniu

Rozporządzenie nie przewiduje ogólnosektorowego reżimu dla ścigania przestępstw; pkt 6 załącznika III to obszar wysokiego ryzyka zatytułowany „Ściganie przestępstw”. Rozporządzenie definiuje je jako działania organów ścigania lub podejmowane w ich imieniu w celu zapobiegania przestępstwom, prowadzenia postępowań przygotowawczych, wykrywania lub ścigania czynów zabronionych lub wykonywania kar, w tym ochrony przed zagrożeniami dla bezpieczeństwa publicznego i zapobiegania takim zagrożeniom (art. 3 ust. 46). Zastosowania wysokiego ryzyka wymienia załącznik III: pkt 6 dotyczy ścigania, a pkt 1 biometrii, każdy „w zakresie, w jakim ich wykorzystanie jest dozwolone na mocy odpowiednich przepisów prawa Unii lub prawa krajowego”.

Zał. III pkt 6

Załącznik III pkt 6: pięć pozycji

Każda pozycja obejmuje systemy wykorzystywane przez organy ścigania lub w ich imieniu albo przez instytucje, organy i jednostki organizacyjne Unii na rzecz tych organów. (a) Ocena ryzyka stania się ofiarą przestępstwa przez osobę fizyczną. (b) Wykrywacze kłamstw lub podobne narzędzia. (c) Ocena wiarygodności dowodów w toku postępowania przygotowawczego lub ścigania przestępstw. (d) Ocena ryzyka popełnienia lub ponownego popełnienia przestępstwa przez osobę fizyczną nie wyłącznie na podstawie profilowania (o którym mowa w art. 3 ust. 4 dyrektywa (UE) 2016/680) lub ocena cech osobowości i właściwości lub wcześniejszego zachowania przestępczego osób fizycznych lub grup. (e) Profilowanie osób fizycznych (o którym mowa w art. 3 ust. 4 dyrektywa (UE) 2016/680) w toku wykrywania, prowadzenia postępowań przygotowawczych lub ścigania przestępstw.

Zał. III pkt 1

Załącznik III pkt 1: biometria

Pkt 1 obejmuje (a) systemy zdalnej identyfikacji biometrycznej, z wyłączeniem systemów weryfikacji biometrycznej, których jedynym celem jest potwierdzenie, że dana osoba fizyczna jest osobą, za którą się podaje; (b) systemy kategoryzacji biometrycznej według wrażliwych lub chronionych atrybutów lub cech, oparte na wnioskowaniu o tych atrybutach lub cechach; (c) systemy rozpoznawania emocji.

art. 5 ust. 1 lit. d, art. 6 ust. 3

Policja predykcyjna i analityka przestępczości

Rozporządzenie nie używa żadnego z tych dwóch terminów, a załącznik III pkt 6 nie zawiera pozycji dotyczącej analityki przestępczości. Zakazana jest ocena lub przewidywanie ryzyka popełnienia przestępstwa przez osobę fizyczną wyłącznie na podstawie profilowania tej osoby lub oceny jej cech osobowości i właściwości (art. 5 ust. 1 lit. d). Zakaz nie dotyczy systemów AI wspierających dokonywaną przez człowieka ocenę udziału danej osoby w działalności przestępczej, opartą już na obiektywnych i dających się zweryfikować faktach bezpośrednio związanych z działalnością przestępczą. System z załącznika III, który dokonuje profilowania osób fizycznych, jest zawsze systemem wysokiego ryzyka (art. 6 ust. 3). To, czy narzędzie działające na obszarach, a nie na osobach, odpowiada jakiejś pozycji, zależy od jego przeznaczenia.

Zał. III pkt 7, zał. III pkt 8 lit. a

Pozycje sąsiednie: pkt 7 i 8 lit. a

Pkt 7 obejmuje zarządzanie migracją, azylem i kontrolą graniczną: wykrywacze kłamstw i podobne narzędzia, oceny ryzyka osób wjeżdżających lub które wjechały na terytorium państwa członkowskiego, wsparcie w rozpatrywaniu wniosków o azyl, wizy i pozwolenia na pobyt oraz wykrywanie, rozpoznawanie lub identyfikację osób, z wyjątkiem weryfikacji dokumentów podróży. Pkt 8 lit. a obejmuje systemy wykorzystywane przez organ sądowy lub w jego imieniu do pomocy w badaniu i interpretacji faktów i prawa oraz w stosowaniu prawa do konkretnego stanu faktycznego albo wykorzystywane w podobny sposób w alternatywnych metodach rozstrzygania sporów.

art. 3 ust. 3, art. 3 ust. 4, art. 25 ust. 1

Dostawca i podmiot wdrażający

Dostawca to osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym (art. 3 ust. 3). Podmiot wdrażający (w rozporządzeniu: podmiot stosujący) to taka osoba lub taki podmiot, który wykorzystuje system AI pod własnym kierownictwem, z wyjątkiem użycia w ramach osobistej działalności o charakterze nieprofesjonalnym (art. 3 ust. 4). Organ policji, który kupuje system, jest podmiotem wdrażającym. Staje się dostawcą, jeśli umieści swoją nazwę lub znak towarowy na systemie wysokiego ryzyka znajdującym się już w obrocie, dokona jego istotnej zmiany, po której system pozostaje systemem wysokiego ryzyka, lub zmieni przeznaczenie systemu niebędącego systemem wysokiego ryzyka tak, że stanie się on takim systemem (art. 25 ust. 1).

art. 16, art. 43 ust. 1

Dostawcy

Dostawcy zapewniają, by system spełniał wymogi sekcji 2, w tym art. 9–15; wdrażają system zarządzania jakością zgodny z art. 17; zapewniają przeprowadzenie procedury oceny zgodności z art. 43 przed wprowadzeniem do obrotu lub oddaniem do użytku; sporządzają deklarację zgodności UE, umieszczają oznakowanie CE i rejestrują się zgodnie z art. 49 ust. 1 (art. 16). W przypadku systemów z załącznik III pkt 1 dostawca wybiera kontrolę wewnętrzną (załącznik VI) lub procedurę z załącznika VII, jeśli zastosowano normy zharmonizowane lub wspólne specyfikacje. Gdy stosuje się procedurę z załącznika VII, a system ma zostać oddany do użytku przez organy ścigania, imigracyjne lub azylowe albo przez instytucje, organy i jednostki organizacyjne Unii, jako jednostka notyfikowana działa organ nadzoru rynku, o którym mowa w art. 74 ust. 8 lub 9 (art. 43 ust. 1). Systemy z pkt 2–8 podlegają kontroli wewnętrznej (art. 43 ust. 2).

art. 26, art. 49 ust. 3

Podmioty wdrażające, takie jak organy policji

Podmioty wdrażające podejmują odpowiednie środki, aby używać systemu zgodnie z instrukcją obsługi (art. 26 ust. 1), powierzają nadzór osobom kompetentnym, przeszkolonym i uprawnionym (art. 26 ust. 2), przechowują logi znajdujące się pod ich kontrolą (art. 26 ust. 6) i informują osoby fizyczne, wobec których podejmowane są decyzje; w przypadku ścigania stosuje się art. 13 dyrektywa (UE) 2016/680 (art. 26 ust. 11). Podmioty wdrażające będące organami publicznymi lub instytucjami, organami i jednostkami organizacyjnymi Unii rejestrują się przed użyciem i nie mogą używać niezarejestrowanego systemu (art. 26 ust. 8); to samo dotyczy osób działających w ich imieniu (art. 49 ust. 3). W przypadku zdalnej identyfikacji biometrycznej post factum przy ukierunkowanym poszukiwaniu osoby podejrzanej lub skazanej występują o zezwolenie z góry albo bez zbędnej zwłoki i nie później niż w ciągu 48 godzin do organu sądowego lub administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, z wyjątkiem wstępnej identyfikacji potencjalnego podejrzanego opartej na obiektywnych i dających się zweryfikować faktach bezpośrednio związanych z przestępstwem (art. 26 ust. 10).

art. 27 ust. 1, art. 27 ust. 2

Ocena skutków dla praw podstawowych

Przed wdrożeniem systemu wysokiego ryzyka, o którym mowa w art. 6 ust. 2, z wyjątkiem systemów z pkt 2 załącznik III, podmioty wdrażające będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne oraz podmioty wdrażające systemy z pkt 5 lit. b i c przeprowadzają ocenę skutków dla praw podstawowych (art. 27 ust. 1). Obowiązek dotyczy pierwszego użycia; podmiot wdrażający może w podobnych przypadkach polegać na wcześniejszych ocenach (art. 27 ust. 2).

art. 49 ust. 4, art. 74 ust. 8

Rejestracja i nadzór

Systemy wysokiego ryzyka z pkt 1, 6 i 7 załącznik III w obszarach ścigania, migracji, azylu i zarządzania kontrolą graniczną rejestruje się w bezpiecznej, niepublicznej sekcji unijnej bazy danych; dostęp mają tylko Komisja i organy krajowe, o których mowa w art. 74 ust. 8 (art. 49 ust. 4). W przypadku systemów z pkt 1 wykorzystywanych do celów ścigania, zarządzania granicami oraz wymiaru sprawiedliwości i demokracji oraz systemów z pkt 6, 7 i 8 państwa członkowskie wyznaczają jako organy nadzoru rynku właściwe organy nadzorcze ds. ochrony danych na podstawie rozporządzenie (UE) 2016/679 (RODO) lub dyrektywa (UE) 2016/680 albo inny organ wyznaczony na takich samych warunkach jak w art. 41–44 dyrektywa (UE) 2016/680 (art. 74 ust. 8).

art. 46 ust. 2, art. 46 ust. 3

Pilne użycie bez zezwolenia

W należycie uzasadnionej sytuacji pilnej ze względu na wyjątkowe względy bezpieczeństwa publicznego lub w przypadku konkretnego, istotnego i bezpośredniego zagrożenia życia lub bezpieczeństwa fizycznego osób fizycznych organy ścigania lub organy ochrony ludności mogą oddać do użytku określony system wysokiego ryzyka bez zezwolenia organu nadzoru rynku, o którym mowa w art. 46 ust. 1, pod warunkiem że o takie zezwolenie wystąpiono w trakcie lub po użyciu bez zbędnej zwłoki. W razie odmowy użycie systemu natychmiast się kończy, a wszystkie wyniki i dane wyjściowe są natychmiast odrzucane (art. 46 ust. 2). Organ nadzoru rynku nie musi informować Komisji i pozostałych państw członkowskich o wrażliwych danych operacyjnych dotyczących działań organów ścigania (art. 46 ust. 3).

art. 113 lit. c pkt i, art. 111 ust. 2

Terminy

Wymogi dla systemów wysokiego ryzyka z załącznik III mają zastosowanie od 2 grudnia 2027 (art. 113 lit. c pkt i). System wysokiego ryzyka wprowadzony do obrotu lub oddany do użytku przed tą datą jest objęty rozporządzeniem tylko wtedy, gdy po niej zostanie istotnie zmieniony w swoim projekcie. W każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2). Zakazy z art. 5 ust. 1 lit. d, e, g i h mają zastosowanie od 2 lutego 2025 (art. 113 lit. a).

art. 2 ust. 3, art. 2 ust. 6, art. 2 ust. 8

Granice zakresu stosowania

Rozporządzenie nie ma zastosowania do obszarów wykraczających poza zakres stosowania prawa Unii ani do systemów AI w zakresie, w jakim są wykorzystywane wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Nie ma zastosowania do organów publicznych państw trzecich ani organizacji międzynarodowych, które wykorzystują systemy AI w ramach współpracy międzynarodowej lub umów o współpracy w zakresie ścigania i współpracy sądowej z Unią lub jednym państwem członkowskim bądź większą ich liczbą, jeżeli to państwo trzecie lub ta organizacja międzynarodowa zapewniają odpowiednie zabezpieczenia w odniesieniu do ochrony praw i wolności podstawowych (art. 2 ust. 4). Nie ma zastosowania do systemów AI lub modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie w celu prowadzenia badań naukowych i prac rozwojowych (art. 2 ust. 6), ani do działalności badawczej, testowej i rozwojowej przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku; testowanie w warunkach rzeczywistych nie jest objęte tym wyłączeniem (art. 2 ust. 8). Nie ma zastosowania do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że zostaną wprowadzone do obrotu lub oddane do użytku jako systemy AI wysokiego ryzyka lub jako system AI objęty art. 5 lub art. 50 (art. 2 ust. 12).

art. 99, art. 100

Kary

Naruszenie zakazu z art. 5: do 35 mln EUR lub, jeżeli sprawca jest przedsiębiorstwem, do 7 % jego całkowitego rocznego światowego obrotu z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3). Naruszenie obowiązków dostawców z art. 16, podmiotów wdrażających z art. 26 lub obowiązków przejrzystości z art. 50: do 15 mln EUR lub, dla przedsiębiorstwa, 3 %, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Przekazanie nieprawidłowych, niekompletnych lub wprowadzających w błąd informacji w odpowiedzi na żądanie jednostek notyfikowanych lub krajowych organów właściwych: do 7,5 mln EUR lub, dla przedsiębiorstwa, 1 %, zależnie od tego, która kwota jest wyższa (art. 99 ust. 5). W przypadku MŚP, w tym przedsiębiorstw typu start-up, każda kara wynosi do tych wartości procentowych lub tej kwoty, zależnie od tego, która jest niższa (art. 99 ust. 6); w przypadku małych przedsiębiorstw o średniej kapitalizacji dotyczy to kar z ust. 4 i 5 (art. 99 ust. 6a). Każde państwo członkowskie określa, w jakim zakresie kary mogą być nakładane na organy publiczne (art. 99 ust. 8). Europejski Inspektor Ochrony Danych może nakładać na instytucje, organy i jednostki organizacyjne Unii kary do 1,5 mln EUR za naruszenie art. 5 i do 750 000 EUR za naruszenie innych wymogów (art. 100).

Zał. III pkt 6 lit. b

Przykład: narzędzie typu wykrywacz kłamstw

Przykład: narzędzie używane przez organy policji podczas przesłuchań jako wykrywacz kłamstw lub podobne narzędzie podlega załącznik III pkt 6 lit. b.

Zał. III pkt 6 lit. c

Przykład: narzędzie oceny wiarygodności dowodów

Przykład: system używany przez policję do oceny wiarygodności dowodów w postępowaniu przygotowawczym podlega załącznik III pkt 6 lit. c.

Zał. III pkt 6 lit. d

Przykład: narzędzie oceny ryzyka ponownego popełnienia przestępstwa

Przykład: narzędzie oceniające ryzyko ponownego popełnienia przestępstwa, które nie opiera się wyłącznie na profilowaniu, podlega załącznik III pkt 6 lit. d; narzędzie oparte wyłącznie na profilowaniu lub cechach osobowości podlega zakazowi z art. 5 ust. 1 lit. d, chyba że jedynie wspiera ocenę człowieka opartą na obiektywnych i dających się zweryfikować faktach bezpośrednio związanych z działalnością przestępczą.