Skip to main content

Zakazane praktyki AI: artykuł 5 rozporządzenia AI

Dziesięć praktyk AI zakazanych w art. 5, kogo dotyczą, wąskie wyjątki oraz kary do 35 mln EUR lub 7 % światowego obrotu, zależnie od tego, która kwota jest wyższa.

Art. 5 zakazuje dziesięciu praktyk AI: wprowadzania do obrotu, oddawania do użytku lub wykorzystywania określonych systemów AI. Operatorzy to m.in. dostawcy i podmioty wdrażające.

Kary sięgają 35 mln EUR lub 7 % całkowitego rocznego światowego obrotu. Obowiązuje wyższa kwota (art. 99 ust. 3). Systemy używane wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego są wyłączone z rozporządzenia (art. 2 ust. 3). Następny krok: porównaj każdy ze swoich systemów AI z dziesięcioma praktykami poniżej.

Osiem zakazów obowiązuje od 2 lutego 2025, dwa kolejne od 2 grudnia 2026.

Kary obowiązują odpowiednio od 2 sierpnia 2025 i od 2 grudnia 2026.

Dziesięć praktyk w zakresie AI jest zakazanych

  • Techniki podprogowe i manipulacyjne

    art. 5 ust. 1 lit. a

    Systemy AI, które stosują techniki podprogowe będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, aby znacząco zmienić zachowanie. Zakaz obowiązuje, gdy powoduje to poważną szkodę lub może ją z uzasadnionym prawdopodobieństwem wyrządzić.

  • Wykorzystywanie słabości

    art. 5 ust. 1 lit. b

    Systemy AI, które wykorzystują słabości wynikające z wieku, niepełnosprawności lub szczególnej sytuacji społecznej lub ekonomicznej, aby znacząco zmienić zachowanie w sposób, który wyrządza poważną szkodę lub może ją z uzasadnionym prawdopodobieństwem wyrządzić.

  • Niekonsensualne materiały intymne

    art. 5 ust. 1 lit. ba

    Systemy AI, które generują lub modyfikują realistyczne obrazy, nagrania wideo, dźwięk lub podobny materiał przedstawiający intymne części ciała możliwej do zidentyfikowania osoby albo tę osobę w czynnościach seksualnie jednoznacznych, bez jej dobrowolnej, konkretnej, świadomej, jednoznacznej i wyraźnej zgody. Modyfikacja, która nie zwiększa ekspozycji intymnych części ciała ani nie zmienia charakteru czynności, się nie liczy (art. 5 ust. 1b). Dostawcy są objęci zakazem tylko wtedy, gdy jest to przewidziane przeznaczenie systemu albo gdy jego projekt, trenowanie, architektura, możliwości lub funkcje dla użytkownika czynią to dającym się racjonalnie przewidzieć i powtarzalnym skutkiem bez istotnej modyfikacji technicznej, a system nie ma rozsądnych i odpowiednich zabezpieczeń, by temu zapobiec i to skorygować. Podmioty wdrażające są objęte zakazem, gdy używają systemu do tego celu (art. 5 ust. 1a). Obowiązuje od 2 grudnia 2026.

  • Materiały przedstawiające niegodziwe traktowanie dzieci w celach seksualnych

    art. 5 ust. 1 lit. bb

    Systemy AI, które generują lub manipulują materiałami lub przedstawieniami w rozumieniu art. 2 lit. c) i e) dyrektywy 2011/93/UE, chyba że zgodnie z prawem krajowym zastosowanie ma zarzut „bezprawności”. Dla dostawców i podmiotów wdrażających obowiązują te same warunki co dla lit. ba) (art. 5 ust. 1a). Obowiązuje od 2 grudnia 2026.

  • Scoring społeczny

    art. 5 ust. 1 lit. c

    Systemy AI, które oceniają lub klasyfikują osoby przez określony czas na podstawie ich zachowania społecznego lub cech osobistych, gdy scoring społeczny prowadzi do krzywdzącego traktowania w niepowiązanych kontekstach społecznych albo do traktowania nieuzasadnionego lub nieproporcjonalnego. Zakaz nie ogranicza się do organów publicznych.

  • Przewidywanie przestępstw wyłącznie na podstawie profilowania

    art. 5 ust. 1 lit. d

    Systemy AI, które oceniają lub przewidują ryzyko popełnienia przestępstwa przez osobę wyłącznie na podstawie profilowania lub cech osobowości. Zakaz nie dotyczy AI wspierającej ocenę dokonywaną przez człowieka, opartą na obiektywnych i weryfikowalnych faktach bezpośrednio związanych z działalnością przestępczą.

  • Nieukierunkowane pozyskiwanie wizerunków twarzy

    art. 5 ust. 1 lit. e

    Systemy AI, które tworzą lub rozbudowują bazy danych służące rozpoznawaniu twarzy poprzez nieukierunkowane pozyskiwanie wizerunków twarzy z internetu lub nagrań z telewizji przemysłowej.

  • Rozpoznawanie emocji w pracy i edukacji

    art. 5 ust. 1 lit. f

    Systemy AI, które wyciągają wnioski na temat emocji osoby w miejscu pracy lub w instytucjach edukacyjnych. Zakaz nie dotyczy systemów przeznaczonych ze względów medycznych lub bezpieczeństwa.

  • Kategoryzacja biometryczna według cech wrażliwych

    art. 5 ust. 1 lit. g

    Systemy AI, które indywidualnie kategoryzują osoby fizyczne w oparciu o ich dane biometryczne, by wydedukować lub wywnioskować ich rasę, poglądy polityczne, przynależność do związków zawodowych, przekonania religijne lub światopoglądowe, seksualność lub orientację seksualną. Zakaz nie obejmuje etykietowania ani filtrowania zgodnie z prawem pozyskanych zbiorów danych biometrycznych ani kategoryzacji danych biometrycznych w obszarze ścigania przestępstw.

  • Zdalna identyfikacja biometryczna w czasie rzeczywistym

    art. 5 ust. 1 lit. h

    Zakazane jest wykorzystywanie systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Trzy wąskie wyjątki opisano niżej.

Zakazane praktyki podlegają najwyższemu progowi kar

Do 35 mln EUR lub do 7 % całkowitego rocznego światowego obrotu, zależnie od tego, która kwota jest wyższa

Art. 99 ust. 3 ustala ten górny pułap kary za naruszenie zakazu z art. 5. Część 7 % stosuje się, gdy sprawcą jest przedsiębiorstwo, i odnosi się do poprzedniego roku obrotowego. W przypadku MŚP, w tym start-upów, kara wynosi do niższej z tych dwóch kwot (art. 99 ust. 6). Wysokość kary w danym przypadku zależy od czynników, takich jak waga i czas trwania naruszenia (art. 99 ust. 7). Każde państwo członkowskie określa, w jakim zakresie kary można nakładać na organy publiczne (art. 99 ust. 8).

Zdalna identyfikacja biometryczna w czasie rzeczywistym ma trzy wąskie wyjątki

Zakaz z art. 5 ust. 1 lit. h nie obowiązuje, gdy takie wykorzystanie jest bezwzględnie konieczne do jednego z trzech celów. Państwa członkowskie mogą zdecydować, czy i na jakich warunkach dopuszczą takie wykorzystanie (art. 5 ust. 5).

  • Dozwolone są trzy cele

    Wykorzystanie jest dozwolone tylko wtedy, gdy jest bezwzględnie konieczne do: ukierunkowanego poszukiwania konkretnych ofiar uprowadzeń, handlu ludźmi lub wykorzystywania seksualnego oraz osób zaginionych; zapobiegnięcia konkretnemu, poważnemu i bezpośredniemu zagrożeniu życia lub bezpieczeństwa fizycznego albo rzeczywistemu i aktualnemu lub rzeczywistemu i dającemu się przewidzieć zagrożeniu atakiem terrorystycznym; lub lokalizowania albo identyfikowania podejrzanego o przestępstwo z załącznika II na potrzeby postępowania przygotowawczego, ścigania lub wykonania kary. Przestępstwo musi być zagrożone karą pozbawienia wolności lub środkiem polegającym na pozbawieniu wolności w maksymalnym wymiarze co najmniej czterech lat (art. 5 ust. 1 lit. h).

  • Wymagane są uprzednie zezwolenie i zabezpieczenia

    Każde użycie wymaga uprzedniego zezwolenia organu sądowego lub niezależnego organu administracyjnego, którego decyzja jest wiążąca. W należycie uzasadnionej pilnej sytuacji użycie może się rozpocząć bez zezwolenia, jeśli zostanie o nie wystąpiono bez zbędnej zwłoki, najpóźniej w ciągu 24 godzin. W razie odmowy użycie należy natychmiast zakończyć, a wszystkie dane i wyniki usunąć (art. 5 ust. 3). Zezwolenie na użycie wymaga ponadto zakończonej oceny skutków dla praw podstawowych i rejestracji w unijnej bazie danych. W pilnych przypadkach rejestracja może nastąpić bez zbędnej zwłoki (art. 5 ust. 2). Każde użycie trzeba też zgłosić organowi nadzoru rynku i krajowemu organowi ochrony danych (art. 5 ust. 4).

  • Identyfikacja następcza jest wysokiego ryzyka, nie jest zakazana

    Zdalna identyfikacja biometryczna, która nie odbywa się w czasie rzeczywistym, nie jest zakazana. Jest zastosowaniem wysokiego ryzyka na podstawie załącznika III pkt 1 lit. a). Przy ukierunkowanym poszukiwaniu osoby podejrzanej o popełnienie przestępstwa lub za nie skazanej podmiot wdrażający musi wystąpić o zezwolenie organu sądowego lub organu administracyjnego, którego decyzja jest wiążąca i podlega kontroli sądowej, przed użyciem albo bez zbędnej zwłoki i nie później niż w ciągu 48 godzin. Nie dotyczy to pierwszej identyfikacji potencjalnego podejrzanego na podstawie obiektywnych i weryfikowalnych faktów bezpośrednio związanych z przestępstwem (art. 26 ust. 10).

Najczęściej zadawane pytania

Czy zakaz scoringu społecznego dotyczy firm prywatnych?

Tak. Art. 5 ust. 1 lit. c) zakazuje systemów punktowej oceny społecznej bez ograniczania zakazu do organów publicznych. Obejmuje operatorów, którzy wprowadzają taki system do obrotu, oddają go do użytku lub go wykorzystują, w zakresie art. 2. Art. 2 wyłącza m.in. zastosowania wojskowe, obronne i związane z bezpieczeństwem narodowym (ust. 3), niektóre organy publiczne państw trzecich (ust. 4), systemy opracowane wyłącznie do badań naukowych (ust. 6), badania i testy przed wprowadzeniem do obrotu (ust. 8) oraz czysto osobiste, nieprofesjonalne korzystanie przez osoby fizyczne (ust. 10).

Jak sprawdzić moje systemy AI pod kątem zakazanych praktyk?

Porównaj przeznaczenie i faktyczne wykorzystanie każdego systemu z dziesięcioma praktykami z art. 5 ust. 1 i zapisz wynik dla każdego systemu. Scanara wspiera to prowadzoną oceną w świetle art. 5 oraz opartymi na regułach kontrolami kodu pod kątem wykrywalnych wzorców. Zamiar i kontekst wymagają Twojej oceny, a decyzja należy do Ciebie.

Powiązane przewodniki

Scanara przygotowuje dowody na podstawie Państwa repozytoriów

Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.