Skrining Zakazanych Praktyk AI — Artykuł 5
Jak sprawdzać systemy AI pod kątem zakazanych praktyk zgodnie z Artykułem 5 rozporządzenia AI. Wszystkie 8 zakazanych kategorii, harmonogram egzekwowania, i automatyczne wykrywanie.
EU AI Act w artykule 5 zakazuje 8 kategorii praktyk AI uznawanych za niedopuszczalne ryzyko dla praw podstawowych. Zakazy te obowiązują od 2 lutego 2025 r. — to najwcześniejsza data egzekwowania w rozporządzeniu. System AI należący do zakazanej kategorii nie może zostać wprowadzony na rynek UE ani oddany do użytku, niezależnie od środków ograniczających ryzyko. Naruszenia zagrożone są karami do 35 mln € lub 7% globalnego obrotu — najwyższy poziom w rozporządzeniu.
Wszystkie 8 zakazanych praktyk AI z artykułu 5
Manipulacja podprogowa poniżej progu świadomości
Art 5(1)(a)Systemy AI stosujące techniki podprogowe poza świadomością osoby w celu istotnego zniekształcenia zachowania w sposób, który powoduje lub może powodować szkodę dla tej osoby lub innej osoby.
Przykłady: Podprogowe bodźce dźwiękowe/wizualne w interfejsach; algorytmiczny nudging poniżej progu świadomości
Wykorzystywanie słabości
Art 5(1)(b)Systemy AI wykorzystujące szczególne słabości osób wynikające z wieku, niepełnosprawności lub sytuacji społecznej/ekonomicznej w celu istotnego zniekształcenia ich zachowania w szkodliwy sposób.
Przykłady: Drapieżne targetowanie starszych użytkowników; manipulacyjny design wymierzony w osoby z niepełnosprawnościami poznawczymi
Scoring społeczny przez organy publiczne
Art 5(1)(c)Systemy AI używane przez organy publiczne lub w ich imieniu do oceniania lub klasyfikowania osób na podstawie zachowań społecznych lub cech osobistych w czasie, prowadzące do krzywdzącego lub dyskryminującego traktowania w niepowiązanych kontekstach.
Przykłady: Rządowe systemy scoringu obywateli; międzykontekstowe systemy kredytu społecznego
Zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej
Art 5(1)(d)Systemy zdalnej identyfikacji biometrycznej w czasie rzeczywistym (np. rozpoznawanie twarzy) używane w przestrzeniach publicznie dostępnych do celów ścigania przestępstw, z wyjątkiem wąsko zdefiniowanych wyjątków (terroryzm, zaginione dzieci, poszukiwani przestępcy).
Przykłady: Rozpoznawanie twarzy na żywo z CCTV; biometryczny nadzór w czasie rzeczywistym w miejscach publicznych
Następcza zdalna identyfikacja biometryczna (z wyjątkami)
Art 5(1)(e)Systemy następczej zdalnej identyfikacji biometrycznej używane przez organy ścigania, z wyjątkiem przypadków autoryzowanych przez organ sądowy lub niezależny na potrzeby ścigania poważnych przestępstw. Obejmuje retrospektywne rozpoznawanie twarzy w nagraniach.
Przykłady: Retrospektywne rozpoznawanie twarzy w archiwach CCTV bez zgody sądu
Kategoryzacja biometryczna wnioskująca o cechach wrażliwych
Art 5(1)(f)Systemy AI kategoryzujące osoby na podstawie danych biometrycznych w celu wywnioskowania lub wydedukowania rasy, poglądów politycznych, przynależności związkowej, przekonań religijnych lub światopoglądowych, orientacji seksualnej lub stanu zdrowia.
Przykłady: Zautomatyzowane wnioskowanie o religii z rysów twarzy; biometryczne profilowanie orientacji seksualnej
Rozpoznawanie emocji w miejscu pracy i edukacji
Art 5(1)(g)Systemy AI używane do wnioskowania o emocjach osób w kontekście miejsca pracy i placówek edukacyjnych, z wyjątkiem powodów medycznych lub bezpieczeństwa. Obejmuje monitorowanie emocji pracowników i uczniów w czasie rzeczywistym.
Przykłady: AI monitorująca nastroje/zaangażowanie pracowników; analiza emocji uczniów w klasach
Policja predykcyjna oparta na profilowaniu
Art 5(1)(h)Systemy AI używane przez organy ścigania lub w ich imieniu do oceny ryzyka popełnienia przestępstwa przez osobę wyłącznie na podstawie profilowania lub cech osobowości, bez obiektywnych i weryfikowalnych faktów bezpośrednio powiązanych z działalnością przestępczą.
Przykłady: Przewidywanie recydywy na podstawie profilowania demograficznego; predykcyjna AI typu „pre-crime” bez podstawy dowodowej
Harmonogram egzekwowania
EU AI Act wszedł w życie
Rozporządzenie (UE) 2024/1689 opublikowane w Dzienniku Urzędowym i obowiązujące.
Zakazy z artykułu 5 egzekwowalne
Wszystkie 8 zakazanych praktyk AI jest zabronionych w całej UE. Nie obowiązuje żaden okres przejściowy.
Obowiązki wysokiego ryzyka EU AI Act
Egzekwowanie artykułów 9–49 dla systemów AI wysokiego ryzyka. Obowiązki GPAI obowiązują już od sierpnia 2025 r.
Jak Scanara wykrywa zakazane praktyki
Scanara zawiera dedykowany moduł screeningu zakazanych praktyk, który skanuje bazę kodu AI i dokumentację systemu pod kątem wszystkich 8 kategorii z artykułu 5. W przeciwieństwie do ręcznych checklist Scanara wykrywa wskaźniki zakazanych zachowań na poziomie kodu — np. API bodźców podprogowych, potoki klasyfikacji biometrycznej w czasie rzeczywistym, integracje wykrywania emocji w aplikacjach skierowanych do pracowników.
Skanowanie kodu oparte na wzorcach
Reguły zgodności dostrojone do artykułu 5 — wykrywają biblioteki bodźców podprogowych, potoki wnioskowania biometrycznego, SDK rozpoznawania emocji i wzorce profilowania powiązane z cechami chronionymi.
Flagi przeglądu architektury
Poza pojedynczymi wzorcami kodu Scanara sygnalizuje cechy architektury systemu wskazujące na zakazane przypadki użycia — biometryczne potoki czasu rzeczywistego w kontekstach przestrzeni publicznej, międzykontekstowe przepływy danych scoringu społecznego.
Waga ustaleń bez tolerancji
Ustalenia z artykułu 5 są zawsze klasyfikowane jako krytyczne — nie można ich wyciszyć ani zaakceptować jako ryzyka. Ustalenie blokuje bramki merge CI/CD do czasu usunięcia zakazanej funkcji.
Dowody audytowe ze znacznikiem czasu
Każdy skan zapisuje wynik ze znacznikiem czasu wraz z wersją polityki i użytymi danymi wejściowymi — do załączenia do dokumentacji technicznej załącznika IV jako dowód należytej staranności w zakresie artykułu 5.
Najczęściej zadawane pytania
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.