Screening systemów AI pod kątem zakazów z art. 5

• Techniki podprogowe i manipulacyjne

  art. 5 ust. 1 lit. a

  Systemy AI, które stosują techniki podprogowe będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, aby znacząco zmienić zachowanie. Zakaz obowiązuje, gdy powoduje to poważną szkodę lub może ją z uzasadnionym prawdopodobieństwem wyrządzić.

• Wykorzystywanie słabości

  art. 5 ust. 1 lit. b

  Systemy AI, które wykorzystują słabości wynikające z wieku, niepełnosprawności lub szczególnej sytuacji społecznej lub ekonomicznej, aby znacząco zmienić zachowanie w sposób, który wyrządza poważną szkodę lub może ją z uzasadnionym prawdopodobieństwem wyrządzić.

• Niekonsensualne materiały intymne

  art. 5 ust. 1 lit. ba

  Systemy AI, które generują lub modyfikują realistyczne obrazy, nagrania wideo, dźwięk lub podobny materiał przedstawiający intymne części ciała możliwej do zidentyfikowania osoby albo tę osobę w czynnościach seksualnie jednoznacznych, bez jej dobrowolnej, konkretnej, świadomej, jednoznacznej i wyraźnej zgody. Modyfikacja, która nie zwiększa ekspozycji intymnych części ciała ani nie zmienia charakteru czynności, się nie liczy (art. 5 ust. 1b). Dostawcy są objęci zakazem tylko wtedy, gdy jest to przewidziane przeznaczenie systemu albo gdy jego projekt, trenowanie, architektura, możliwości lub funkcje dla użytkownika czynią to dającym się racjonalnie przewidzieć i powtarzalnym skutkiem bez istotnej modyfikacji technicznej, a system nie ma rozsądnych i odpowiednich zabezpieczeń, by temu zapobiec i to skorygować. Podmioty wdrażające są objęte zakazem, gdy używają systemu do tego celu (art. 5 ust. 1a). Obowiązuje od 2 grudnia 2026.

• Materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych

  art. 5 ust. 1 lit. bb

  Systemy AI, które generują lub manipulują materiałami lub przedstawieniami w rozumieniu art. 2 lit. c) i e) dyrektywy 2011/93/UE, chyba że zgodnie z prawem krajowym zastosowanie ma zarzut „bezprawności”. Dla dostawców i podmiotów wdrażających obowiązują te same warunki co dla lit. ba) (art. 5 ust. 1a). Obowiązuje od 2 grudnia 2026.

• Scoring społeczny

  art. 5 ust. 1 lit. c

  Systemy AI, które oceniają lub klasyfikują osoby przez określony czas na podstawie ich zachowania społecznego lub cech osobistych, gdy scoring społeczny prowadzi do krzywdzącego traktowania w niepowiązanych kontekstach społecznych albo do traktowania nieuzasadnionego lub nieproporcjonalnego. Zakaz nie ogranicza się do organów publicznych.

• Przewidywanie przestępstw wyłącznie na podstawie profilowania

  art. 5 ust. 1 lit. d

  Systemy AI, które oceniają lub przewidują ryzyko popełnienia przestępstwa przez osobę wyłącznie na podstawie profilowania lub cech osobowości. Zakaz nie dotyczy AI wspierającej ocenę dokonywaną przez człowieka, opartą na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą.

• Nieukierunkowane pozyskiwanie wizerunków twarzy

  art. 5 ust. 1 lit. e

  Systemy AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej.

• Rozpoznawanie emocji w pracy i edukacji

  art. 5 ust. 1 lit. f

  Systemy AI, które wyciągają wnioski na temat emocji osoby w miejscu pracy lub w instytucjach edukacyjnych. Zakaz nie dotyczy systemów przeznaczonych ze względów medycznych lub bezpieczeństwa.

• Kategoryzacja biometryczna według cech wrażliwych

  art. 5 ust. 1 lit. g

  Systemy AI, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować ich rasę, poglądy polityczne, przynależność do związków zawodowych, przekonania religijne lub światopoglądowe, seksualność lub orientację seksualną. Zakaz nie obejmuje etykietowania ani filtrowania zgodnie z prawem pozyskanych zbiorów danych biometrycznych ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw.

• Zdalna identyfikacja biometryczna w czasie rzeczywistym

  art. 5 ust. 1 lit. h

  Zakazane jest wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Trzy wąskie wyjątki opisano niżej.

Zakaz z art. 5 ust. 1 lit. h nie obowiązuje, gdy takie wykorzystanie jest bezwzględnie konieczne do jednego z trzech celów. Państwa członkowskie mogą zdecydować, czy i na jakich warunkach dopuszczą takie wykorzystanie (art. 5 ust. 5).

• Dozwolone są trzy cele

  Wykorzystanie jest dozwolone tylko wtedy, gdy jest bezwzględnie konieczne do: ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego oraz osób zaginionych; zapobiegnięcia konkretnemu, poważnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego albo rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym; lub lokalizowania albo identyfikowania podejrzanego o przestępstwo z załącznika II na potrzeby postępowania przygotowawczego, ścigania lub wykonania kary. Przestępstwo musi być zagrożone karą pozbawienia wolności lub środkiem polegającym na pozbawieniu wolności w maksymalnym wymiarze co najmniej czterech lat (art. 5 ust. 1 lit. h).

• Wymagane są uprzednie zezwolenie i zabezpieczenia

  Każde użycie wymaga uprzedniego zezwolenia organu sądowego lub niezależnego organu administracyjnego, którego decyzja jest wiążąca. W należycie uzasadnionej pilnej sytuacji użycie może się rozpocząć bez zezwolenia, jeśli zostanie o nie wystąpiono bez zbędnej zwłoki, najpóźniej w ciągu 24 godzin. W razie odmowy użycie należy natychmiast zakończyć, a wszystkie dane i wyniki usunąć (art. 5 ust. 3). Zezwolenie na użycie wymaga ponadto zakończonej oceny skutków dla praw podstawowych i rejestracji w unijnej bazie danych. W pilnych przypadkach rejestracja może nastąpić bez zbędnej zwłoki (art. 5 ust. 2). Każde użycie trzeba też zgłosić organowi nadzoru rynku i krajowemu organowi ochrony danych (art. 5 ust. 4).

• Identyfikacja następcza jest wysokiego ryzyka, nie jest zakazana

  Zdalna identyfikacja biometryczna, która nie odbywa się w czasie rzeczywistym, nie jest zakazana. Jest zastosowaniem wysokiego ryzyka na podstawie załącznika III pkt 1 lit. a). Przy ukierunkowanym poszukiwaniu osoby podejrzanej o popełnienie przestępstwa lub za nie skazanej podmiot wdrażający musi wystąpić o zezwolenie organu sądowego lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, przed użyciem albo bez zbędnej zwłoki i nie później niż w ciągu 48 godzin. Nie dotyczy to pierwszej identyfikacji potencjalnego podejrzanego na podstawie obiektywnych i weryfikowalnych faktów bezpośrednio związanych z przestępstwem (art. 26 ust. 10).

• Lit. a–h: od 2 lutego 2025

  Zakazy z art. 5 ust. 1 lit. a–h obowiązują od 2 lutego 2025 (art. 113 lit. a). Kary mają zastosowanie od 2 sierpnia 2025.

• Lit. ba i bb oraz art. 5 ust. 1a i 1b: od 2 grudnia 2026

  Zakazy dotyczące niekonsensualnych materiałów intymnych i materiałów przedstawiających niegodziwe traktowanie dzieci w celach seksualnych, wraz z ich warunkami, obowiązują od 2 grudnia 2026 (art. 113 lit. a). Kary mają zastosowanie od tej samej daty.

Screening to prowadzona ocena. Scanara nie rozstrzyga, czy dana praktyka jest zakazana: zamiar i kontekst wymagają Państwa oceny, a decyzja pozostaje po Państwa stronie.

• Zakazane praktyki AI: artykuł 5 rozporządzenia AI

  Omawia w całości każdy z dziesięciu zakazów, wyjątki i kary.

• Rozporządzenie AI: harmonogram terminów od 2024 do 2030

  Każda data stosowania rozporządzenia wraz z artykułem, który ją ustala.

• Rozporządzenie AI vs RODO: różnice i pokrywanie się

  Oba akty stosuje się równolegle. Art. 5 nie narusza art. 9 RODO w odniesieniu do danych biometrycznych poza ściganiem przestępstw.