Rozporządzenie AI biometria: zgodność

Załącznik III pkt 1 obejmuje biometrię w zakresie, w jakim jej stosowanie jest dozwolone na podstawie odpowiednich przepisów prawa Unii lub prawa krajowego. Słowo „biometria” na tej stronie odpowiada poniższym punktom zaczepienia.

• Pkt 1 lit. a): systemy zdalnej identyfikacji biometrycznej

  System zdalnej identyfikacji biometrycznej służy do identyfikacji osób fizycznych bez ich aktywnego udziału, zwykle na odległość, poprzez porównanie danych biometrycznych danej osoby z danymi biometrycznymi zawartymi w referencyjnej bazie danych (art. 3 pkt 41). Załącznik III wymienia te systemy bez rozróżniania identyfikacji w czasie rzeczywistym i post factum (art. 3 pkt 42, art. 3 pkt 43).

• Weryfikacja jest wyłączona z pkt 1 lit. a)

  Pkt 1 lit. a) nie obejmuje systemów AI przeznaczonych do wykorzystania przy weryfikacji biometrycznej, której jedynym celem jest potwierdzenie, że określona osoba fizyczna jest osobą, za którą się podaje. Weryfikacja biometryczna to zautomatyzowana weryfikacja typu jeden-do-jednego, w tym uwierzytelnianie, przez porównanie danych biometrycznych z wcześniej przekazanymi danymi biometrycznymi (art. 3 pkt 36). Taki system jest systemem wysokiego ryzyka tylko wtedy, gdy obejmuje go inny punkt załącznika III lub załącznik I.

• Pkt 1 lit. b): kategoryzacja według wrażliwych lub chronionych atrybutów

  Systemy AI przeznaczone do wykorzystania przy kategoryzacji biometrycznej, według wrażliwych lub chronionych atrybutów lub cech na podstawie wywnioskowania tych atrybutów lub cech. System kategoryzacji biometrycznej przypisuje osoby fizyczne do określonych kategorii na podstawie ich danych biometrycznych, oprócz przypadków, gdy pełni funkcję pomocniczą w stosunku do innej usługi komercyjnej i jest bezwzględnie konieczny z obiektywnych względów technicznych (art. 3 pkt 40). Art. 5 ust. 1 lit. g) zakazuje części kategoryzacji (zob. niżej).

• Pkt 1 lit. c): rozpoznawanie emocji

  Systemy AI przeznaczone do wykorzystania przy rozpoznawaniu emocji. System rozpoznawania emocji to system AI służący do identyfikacji lub wywnioskowania emocji lub zamiarów osób fizycznych na podstawie danych biometrycznych tych osób (art. 3 pkt 39). Art. 5 ust. 1 lit. f) zakazuje wyciągania wniosków na temat emocji w miejscu pracy i w instytucjach edukacyjnych, z wyjątkiem przypadków ze względów medycznych lub bezpieczeństwa (zob. niżej).

• Pkt 6 i 7: inne zastosowania przez organy publiczne

  Załącznik III pkt 7 lit. d) obejmuje systemy AI wykorzystywane przez właściwe organy publiczne lub w ich imieniu albo przez instytucje, organy i jednostki organizacyjne Unii w kontekście zarządzania migracją, azylem lub kontrolą graniczną w celu wykrywania, rozpoznawania lub identyfikacji osób fizycznych, z wyjątkiem weryfikacji dokumentów podróży. Pkt 6 wymienia zastosowania w ściganiu przestępstw; zob. przegląd dotyczący ścigania przestępstw. Rejestracja systemów z pkt 1, 6 i 7 w tych obszarach odbywa się w bezpiecznej niepublicznej sekcji unijnej bazy danych (art. 49 ust. 4).

• Czas rzeczywisty, post factum i ściganie przestępstw

  System zdalnej identyfikacji biometrycznej w czasie rzeczywistym to system, w którym zbieranie danych biometrycznych, porównywanie i identyfikacja odbywają się bez znacznego opóźnienia, w tym z ograniczonymi krótkimi opóźnieniami w celu uniknięcia obchodzenia przepisów (art. 3 pkt 42). System post factum to każdy inny system zdalnej identyfikacji biometrycznej (art. 3 pkt 43). „Ściganie przestępstw” oznacza działania prowadzone przez organy ścigania lub w ich imieniu w celu zapobiegania przestępstwom, ich wykrywania, prowadzenia postępowań przygotowawczych w ich sprawie lub ich ścigania, lub wykonywania kar, w tym ochrony przed zagrożeniami bezpieczeństwa publicznego i zapobiegania takim zagrożeniom (art. 3 pkt 46). Organ ścigania to organ publiczny właściwy w tych sprawach lub każdy inny podmiot, któremu prawo państwa członkowskiego powierzyło wykonywanie władzy publicznej i uprawnień publicznych do tych celów (art. 3 pkt 45). „Przestrzeń publiczna” to miejsce fizyczne, będące własnością prywatną lub publiczną, dostępne dla nieokreślonej liczby osób fizycznych, niezależnie od tego, czy mogą mieć zastosowanie określone warunki dostępu (art. 3 pkt 44).

Lit. e)–h) art. 5 ust. 1 obowiązują od 2 lutego 2025 (art. 113 lit. a)). Kary mogą sięgać do 35 mln EUR lub, dla przedsiębiorstwa, do 7 % jego całkowitego światowego obrotu rocznego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3).

• Nieukierunkowane pozyskiwanie wizerunków do budowy baz twarzy (lit. e))

  Systemy AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej. Zakaz obejmuje wprowadzanie do obrotu, oddawanie do użytku w tym konkretnym celu i wykorzystywanie. Tekst nie wskazuje testu zgody ani nazwanego zbioru danych.

• Wyciąganie wniosków o emocjach w pracy i edukacji (lit. f))

  Systemy AI do wyciągania wniosków na temat emocji osoby fizycznej w miejscu pracy lub instytucjach edukacyjnych, z wyjątkiem przypadków, w których system AI ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa. Systemy rozpoznawania emocji wymienia załącznik III pkt 1 lit. c), który nie ogranicza ich do żadnego obszaru.

• Kategoryzacja biometryczna cech wrażliwych (lit. g))

  Systemy kategoryzacji biometrycznej, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować informacje na temat ich rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, seksualności lub orientacji seksualnej. Zakaz nie obejmuje etykietowania ani filtrowania pozyskanych zgodnie z prawem zbiorów danych biometrycznych, takich jak obrazy, w oparciu o dane biometryczne, ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw.

• Zdalna identyfikacja biometryczna w czasie rzeczywistym do celów ścigania przestępstw (lit. h))

  Wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw jest zakazane, chyba że – i w zakresie, w jakim – jest to bezwzględnie konieczne do jednego z trzech celów. Pierwszym jest ukierunkowane poszukiwanie konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego ludzi, a także poszukiwanie osób zaginionych. Drugim jest zapobieżenie konkretnemu, istotnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego albo rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym. Trzecim jest lokalizowanie lub identyfikowanie osoby podejrzanej o popełnienie przestępstwa, o którym mowa w załączniku II, zagrożonego karą pozbawienia wolności lub środkiem polegającym na pozbawieniu wolności, których górna granica wynosi co najmniej cztery lata. Wykorzystanie może służyć wyłącznie potwierdzeniu tożsamości konkretnej poszukiwanej osoby (art. 5 ust. 2). Każde wykorzystanie wymaga uprzedniego zezwolenia organu wymiaru sprawiedliwości lub niezależnego organu administracyjnego, którego decyzja jest wiążąca. W należycie uzasadnionej sytuacji pilnej wykorzystanie może się rozpocząć bez zezwolenia, pod warunkiem że wniosek o nie zostanie złożony bez zbędnej zwłoki, najpóźniej w ciągu 24 godzin. W razie odrzucenia wniosku wykorzystanie zostaje wstrzymane ze skutkiem natychmiastowym, a dane i wyniki zostają usunięte (art. 5 ust. 3). Zezwolenie wymaga też przeprowadzonej oceny skutków dla praw podstawowych i rejestracji systemu w unijnej bazie danych; w należycie uzasadnionych przypadkach pilnych rejestracja może nastąpić bez zbędnej zwłoki (art. 5 ust. 2). Każde wykorzystanie jest zgłaszane organowi nadzoru rynku i krajowemu organowi ochrony danych (art. 5 ust. 4). Organy te przekazują Komisji roczne sprawozdania, a Komisja publikuje roczne sprawozdania (art. 5 ust. 6, art. 5 ust. 7). Państwo członkowskie może zdecydować, czy przewidzieć takie zezwolenie (art. 5 ust. 5). Lit. h) dotyczy wykorzystania do celów ścigania przestępstw; pozostaje bez uszczerbku dla art. 9 rozporządzenia (UE) 2016/679 w odniesieniu do innych celów.

• Dostawcy

  Dostawca rozwija system lub zleca jego rozwój i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym (art. 3 pkt 3). Dostawca musi zapewnić zgodność swojego systemu wysokiego ryzyka z wymogami sekcji 2, w tym z art. 9–15, mieć system zarządzania jakością zgodny z art. 17 i zapewnić przeprowadzenie oceny zgodności zgodnie z art. 43 przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku (art. 16 lit. a), c) i f)).

• Podmioty wdrażające

  Podmiot wdrażający (w rozporządzeniu: podmiot stosujący) to osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który wykorzystuje system AI pod własnym zwierzchnictwem (art. 3 pkt 4). Podmioty wdrażające podejmują odpowiednie środki techniczne i organizacyjne, aby wykorzystywać system zgodnie z instrukcją obsługi, powierzają nadzór ludzki osobom fizycznym mającym niezbędne kompetencje, przeszkolenie i uprawnienia oraz przechowują rejestry znajdujące się pod ich kontrolą (art. 26 ust. 1, 2 i 6). Podmioty wdrażające będące organami publicznymi rejestrują swoje wykorzystanie w unijnej bazie danych (art. 26 ust. 8, art. 49 ust. 3). Podmioty wdrażające będące podmiotami prawa publicznego lub podmiotami prywatnymi świadczącymi usługi publiczne przeprowadzają ocenę skutków dla praw podstawowych przed wdrożeniem systemu, o którym mowa w art. 6 ust. 2 (art. 27 ust. 1).

• Podmioty wdrażające zdalną identyfikację biometryczną post factum

  W ramach postępowania przygotowawczego dotyczącego ukierunkowanego poszukiwania osoby podejrzanej o popełnienie przestępstwa lub skazanej za jego popełnienie podmiot wdrażający system zdalnej identyfikacji biometrycznej post factum zwraca się – ex ante lub bez zbędnej zwłoki, nie później jednak niż w ciągu 48 godzin – do organu wymiaru sprawiedliwości lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, z wnioskiem o zezwolenie na wykorzystanie systemu. Wyjątek dotyczy wykorzystania do wstępnej identyfikacji potencjalnego podejrzanego w oparciu o obiektywne i możliwe do zweryfikowania fakty bezpośrednio związane z przestępstwem. Organy ścigania nie mogą wydać żadnej decyzji wywołującej niepożądane skutki prawne dla danej osoby wyłącznie na podstawie wyników takiego systemu. Niezależnie od celu lub podmiotu wdrażającego każde wykorzystanie takich systemów jest dokumentowane w odpowiednich aktach policyjnych i udostępniane na żądanie organowi nadzoru rynku i krajowemu organowi ochrony danych, z wyłączeniem wrażliwych danych operacyjnych dotyczących ścigania przestępstw. Podmioty wdrażające przedkładają tym organom roczne sprawozdania z wykorzystania systemów zdalnej identyfikacji biometrycznej post factum; sprawozdania mogą być zagregowane (art. 26 ust. 10).

Naruszenia zakazów z art. 5 mogą podlegać karom do 35 mln EUR lub, dla przedsiębiorstwa, do 7 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3). Naruszenia obowiązków dostawców z art. 16 i podmiotów wdrażających z art. 26 mogą podlegać karom do 15 mln EUR lub, dla przedsiębiorstwa, do 3 %, zależnie od tego, która kwota jest wyższa; ten sam poziom obejmuje obowiązki w zakresie przejrzystości z art. 50 (art. 99 ust. 4 lit. a), e) i g)). W przypadku MŚP, w tym przedsiębiorstw typu start-up, każda kara wynosi do niższej z tych dwóch kwot (art. 99 ust. 6). W przypadku małych przedsiębiorstw o średniej kapitalizacji (art. 3 pkt 14b) to samo dotyczy kar z art. 99 ust. 4 i art. 99 ust. 5, ale nie kar z art. 99 ust. 3 (art. 99 ust. 6a). Każde państwo członkowskie określa zasady dotyczące tego, w jakim zakresie administracyjne kary pieniężne mogą być nakładane na organy publiczne i podmioty publiczne ustanowione w tym państwie członkowskim (art. 99 ust. 8). Art. 99 ust. 3–5 nie wskazuje poziomu kar dla art. 27 ani art. 49.

• art. 5(1)(e)–(h)
  Zakazy: sprawdź najpierw

  Sprawdź, czy system podlega lit. e)–h) art. 5 ust. 1, zanim zastosujesz przepisy o wysokim ryzyku. Zob. zakazy powyżej.

• art. 9
  System zarządzania ryzykiem

  Obowiązek dostawcy. Obejmuje rozważenie wpływu na osoby poniżej 18. roku życia i inne grupy szczególnie wrażliwe (art. 9 ust. 9). Rozporządzenie nie wskazuje wartości ani metody ryzyka specyficznych dla biometrii.

• art. 10, 4a
  Zarządzanie danymi i szczególne kategorie danych

  Kryteria jakości danych treningowych, walidacyjnych i testowych (art. 10). Dostawcy mogą wyjątkowo przetwarzać szczególne kategorie danych osobowych w celu wykrywania i korygowania uprzedzeń, pod sześcioma warunkami (art. 4a ust. 1).

• art. 12(3)
  Rejestrowanie zdarzeń: minimalna zawartość rejestrów

  W systemach z pkt 1 lit. a) rejestry zapisują okres każdego wykorzystania, referencyjną bazę danych, dane wejściowe prowadzące do trafienia i osoby, które zweryfikowały wynik (art. 12 ust. 3).

• art. 13
  Przejrzystość i instrukcja obsługi

  Dostawca dostarcza instrukcję obsługi zawierającą co najmniej informacje z art. 13 ust. 3. Art. 13 nie zawiera przepisów o tablicach lub komunikatach dla osób rejestrowanych przez system.

• art. 14(5)
  Nadzór ludzki: weryfikacja przez dwie osoby

  W systemach z pkt 1 lit. a) żadnego działania ani decyzji na podstawie identyfikacji przed odrębną weryfikacją i potwierdzeniem przez co najmniej dwie osoby fizyczne mające wymagane kompetencje, przeszkolenie i uprawnienia (art. 14 ust. 5). Wyjątek dla ścigania przestępstw, migracji, kontroli granicznej i azylu, gdy prawo uznaje ten wymóg za nieproporcjonalny.

• art. 15, 17
  Dokładność, solidność, cyberbezpieczeństwo i zarządzanie jakością

  Obowiązki dostawcy (art. 15, art. 17). Rozporządzenie nie wskazuje dla biometrii wartości dokładności, metryki wskaźnika błędów ani metody testowej. Dostawca podaje poziomy i metryki dokładności w instrukcji obsługi (art. 15 ust. 3).

• art. 26–27
  Obowiązki podmiotów wdrażających i ocena skutków dla praw podstawowych

  Wykorzystywanie zgodnie z instrukcją obsługi, nadzór ludzki, rejestry (art. 26). Podmioty wdrażające systemy AI wysokiego ryzyka z załącznika III, które podejmują decyzje dotyczące osób fizycznych lub pomagają w ich podejmowaniu, informują te osoby (art. 26 ust. 11). Zdalna identyfikacja post factum w postępowaniach karnych: zezwolenie i sprawozdania (art. 26 ust. 10). Ocena skutków dla praw podstawowych dla podmiotów wdrażających wskazanych w art. 27 ust. 1.

• art. 43(1)
  Procedura oceny zgodności dla pkt 1

  Jeżeli dostawca zastosował normy zharmonizowane (art. 40) lub, w stosownych przypadkach, wspólne specyfikacje (art. 41), wybiera między kontrolą wewnętrzną z załącznika VI a oceną z udziałem jednostki notyfikowanej z załącznika VII. Załącznik VII stosuje się, gdy takie normy nie istnieją i wspólne specyfikacje nie są dostępne, gdy dostawca nie zastosował normy lub zastosował ją tylko w części, gdy nie zastosował istniejących wspólnych specyfikacji albo gdy normę opublikowano z ograniczeniem. W przypadku systemów oddawanych do użytku przez organy ścigania, imigracyjne lub azylowe albo przez instytucje Unii jednostką notyfikowaną jest organ nadzoru rynku (art. 43 ust. 1).

• art. 49
  Rejestracja w unijnej bazie danych

  Dostawcy rejestrują siebie i swój system przed wprowadzeniem do obrotu lub oddaniem do użytku (art. 49 ust. 1). Podmioty wdrażające będące organami publicznymi rejestrują swoje wykorzystanie (art. 49 ust. 3). W przypadku systemów z pkt 1, 6 i 7 w obszarach ścigania przestępstw, migracji, azylu i zarządzania kontrolą graniczną rejestracja odbywa się w bezpiecznej niepublicznej sekcji i obejmuje ograniczone informacje (art. 49 ust. 4).

• art. 50(3)
  Obowiązek informacyjny przy rozpoznawaniu emocji i kategoryzacji biometrycznej

  Podmioty wdrażające system rozpoznawania emocji lub system kategoryzacji biometrycznej informują osoby fizyczne, które są na niego narażone, o działaniu systemu i przetwarzają dane osobowe zgodnie z przepisami o ochronie danych. Obowiązek nie dotyczy systemów, których stosowanie jest dozwolone przez prawo w celu wykrywania przestępstw, zapobiegania im lub prowadzenia postępowań przygotowawczych w ich sprawie, z zastrzeżeniem odpowiednich zabezpieczeń i zgodnie z prawem Unii (art. 50 ust. 3). Zdalna identyfikacja biometryczna nie jest wymieniona w tym ustępie.

• Art. 9 dla biometrycznej AI: zarządzanie ryzykiem

  Zarządzanie ryzykiem dla biometrycznej AI: czego art. 9 wymaga od dostawcy.

• Art. 14 dla biometrycznej AI: nadzór ludzki

  Nadzór ludzki dla biometrycznej AI, w tym weryfikacja przez dwie osoby przy zdalnej identyfikacji.

• Zakazane praktyki AI: artykuł 5 rozporządzenia AI

  Wszystkie zakazane praktyki AI z art. 5, w tym biometryczne.

• Rozporządzenie AI organy ścigania: zgodność

  Przegląd ścigania przestępstw: załącznik III pkt 6 i przepisy dla organów ścigania.