Czy mój system AI jest wysokiego ryzyka? Drzewo decyzyjne
Interaktywne drzewo decyzyjne klasyfikacji ryzyka według rozporządzenia AI. Obejmuje zakazane praktyki z artykułu 5, wszystkie 8 kategorii wysokiego ryzyka z załącznika III, obowiązki modeli GPAI i przejrzystość z artykułu 50.
Unijne rozporządzenie w sprawie AI (rozporządzenie (UE) 2024/1689) klasyfikuje systemy AI według ich przeznaczenia: praktyki zakazane (art. 5), systemy wysokiego ryzyka (art. 6 wraz z załącznikami I i III) oraz systemy z obowiązkami przejrzystości (art. 50). Modele AI ogólnego przeznaczenia mają własne przepisy (rozdział V). Obowiązki sięgają od całkowitych zakazów po dobrowolne kodeksy postępowania.
Skorzystaj z tego interaktywnego drzewa decyzyjnego, aby sprawdzić, jakie przepisy dotyczą Twojego systemu AI. Drzewo opiera się na art. 5, 6, 50 i 51 oraz załącznikach I i III. Odpowiadaj na każde pytanie z uwzględnieniem przeznaczenia swojego systemu, czyli zastosowania, które podajesz w instrukcji obsługi, materiałach promocyjnych lub sprzedażowych i dokumentacji technicznej (art. 3 pkt 12). Wynik jest punktem wyjścia, nie poradą prawną.
Interaktywne drzewo decyzyjne
Czy Twój system AI stosuje praktykę zakazaną przez art. 5?
Art. 5 zakazuje między innymi: szkodliwych technik podprogowych lub manipulacyjnych; wykorzystywania słabości wynikających z wieku, niepełnosprawności lub sytuacji społecznej bądź ekonomicznej; scoringu społecznego; oceny ryzyka popełnienia przestępstwa wyłącznie na podstawie profilowania; nieukierunkowanego pozyskiwania wizerunków twarzy do baz danych do rozpoznawania twarzy; rozpoznawania emocji w miejscu pracy i w instytucjach edukacyjnych (z wyjątkiem względów medycznych lub bezpieczeństwa); kategoryzacji biometrycznej w celu wywnioskowania rasy, poglądów politycznych, przynależności do związków zawodowych, przekonań religijnych lub światopoglądowych, życia seksualnego lub orientacji seksualnej; oraz zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw, z wąskimi wyjątkami. Od 2 grudnia 2026 zakazuje też systemów AI, które generują seksualnie jednoznaczne treści typu deepfake przedstawiające identyfikowalne osoby bez ich zgody lub materiały przedstawiające seksualne wykorzystywanie dzieci (art. 5 ust. 1 lit. ba i bb).
Zrozumienie ram klasyfikacji ryzyka
Rozporządzenie w sprawie AI kieruje się podejściem opartym na ryzyku: im większe ryzyko dla zdrowia, bezpieczeństwa i praw podstawowych stwarza system AI, tym surowsze wymogi. Dotyczy dostawców, podmiotów wdrażających, importerów, dystrybutorów, producentów produktów, upoważnionych przedstawicieli i osób, których dotyczy system, w UE, a także dostawców i podmiotów wdrażających z państw trzecich, jeśli wynik działania systemu jest wykorzystywany w UE (art. 2 ust. 1). Nie dotyczy systemów AI wykorzystywanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3), systemów i modeli AI opracowanych i oddanych do użytku wyłącznie do celów badań naukowych i prac rozwojowych (art. 2 ust. 6), badań, testów i prac rozwojowych przed wprowadzeniem systemu do obrotu lub oddaniem do użytku, z wyjątkiem testów w warunkach rzeczywistych (art. 2 ust. 8), ani osób fizycznych korzystających z AI w ramach czysto osobistej działalności nieprofesjonalnej (art. 2 ust. 10). Poza nim są też systemy AI udostępniane na wolnych licencjach otwartego oprogramowania, chyba że są wprowadzane do obrotu lub oddawane do użytku jako systemy wysokiego ryzyka albo podlegają art. 5 lub 50 (art. 2 ust. 12). Określenia „ograniczone ryzyko” i „minimalne ryzyko” to powszechne skróty; samo rozporządzenie ich nie używa.
Praktyki zakazane (art. 5)
Praktyki AI, które rozporządzenie całkowicie zakazuje (art. 5), takie jak scoring społeczny, szkodliwe techniki podprogowe lub manipulacyjne, wykorzystywanie słabości oraz niektóre praktyki biometryczne. Kary wynoszą do 35 mln EUR lub, w przypadku przedsiębiorstwa, do 7 % całkowitego światowego rocznego obrotu, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3).
Wysokie ryzyko
Systemy AI, które są komponentem bezpieczeństwa produktu objętego aktem z załącznika I i wymagają oceny zgodności przez stronę trzecią, albo które są używane do zastosowań z załącznika III, takich jak biometria, infrastruktura krytyczna, edukacja, zatrudnienie, ściganie przestępstw i migracja. Muszą spełniać wymogi obejmujące m.in. zarządzanie ryzykiem, zarządzanie danymi, dokumentację techniczną, rejestrowanie zdarzeń, przejrzystość, nadzór ze strony człowieka, dokładność i solidność. Wymogi obowiązują dla systemów z załącznika III od 2 grudnia 2027 oraz dla systemów z sekcji A załącznika I od 2 sierpnia 2028 (art. 113 w brzmieniu nadanym rozporządzeniem (UE) 2026/1744). Systemy wprowadzone do obrotu lub oddane do użytku przed tymi datami są objęte dopiero po istotnych zmianach w ich projekcie; w każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2). Dla systemów z sekcji B stosuje się tylko art. 6 ust. 1, art. 60a oraz art. 102–112, a art. 57–59 tylko w takim zakresie, w jakim przepisy sektorowe uwzględniły wymogi dla systemów wysokiego ryzyka (art. 2 ust. 2).
Obowiązki przejrzystości (art. 50)
Systemy AI, które wchodzą w bezpośrednią interakcję z ludźmi, generują syntetyczne treści audio, obrazy, wideo lub tekst albo rozpoznają emocje lub dokonują kategoryzacji biometrycznej. Dostawcy i podmioty wdrażające muszą od 2 sierpnia 2026 informować ludzi lub oznaczać treści tak, jak wymaga tego art. 50. Informacja musi być jasna i przekazana najpóźniej w momencie pierwszej interakcji lub pierwszego kontaktu (art. 50 ust. 5).
Wszystkie pozostałe systemy AI
Systemy AI, do których nie stosuje się żaden zakaz z art. 5, żadne przepisy dla systemów wysokiego ryzyka ani żaden obowiązek z art. 50. Nadal obowiązują przepisy ogólne, na przykład dotyczące kompetencji w zakresie AI (art. 4). Zachęca się do dobrowolnych kodeksów postępowania (art. 95).
Częste błędy klasyfikacyjne
Klasyfikowanie według etykiety zamiast przeznaczenia
Klasyfikacja zależy od przeznaczenia: zastosowania, które dostawca podaje w instrukcji obsługi, materiałach promocyjnych lub sprzedażowych i dokumentacji technicznej (art. 3 pkt 12). System do rekrutacji, na przykład do filtrowania zgłoszeń lub oceny kandydatów, to zastosowanie z załącznika III (pkt 4 lit. a). Nazwanie go narzędziem podpowiedzi niczego nie zmienia. Zmienić to mogą tylko warunki z art. 6 ust. 3, i nigdy gdy system profiluje osoby fizyczne.
Ignorowanie wyjątku z art. 6 ust. 3
Nie każdy system z załącznika III jest systemem wysokiego ryzyka. System, który nie stwarza znaczącego ryzyka szkody i spełnia jeden z czterech warunków z art. 6 ust. 3, nie jest uznawany za system wysokiego ryzyka. Wyjątek nigdy nie dotyczy systemu, który profiluje osoby fizyczne. Dostawca musi udokumentować ocenę przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku i mimo to musi zarejestrować system w bazie danych UE (art. 6 ust. 4, art. 49 ust. 2).
Zapominanie o klasyfikacji dalszego łańcucha
Model GPAI sam nie jest klasyfikowany jako system wysokiego ryzyka. Jeśli budujesz system AI na modelu, a ten system jest systemem wysokiego ryzyka na podstawie art. 6, obowiązki dla systemów wysokiego ryzyka ponosi dostawca tego systemu, a obowiązki dostawcy modelu z art. 53 pozostają odrębne. Klasyfikuj system według jego przeznaczenia, a nie tylko według modelu.
Często zadawane pytania
Jak sprawdzić, czy mój system AI jest wysokiego ryzyka?
System AI jest systemem wysokiego ryzyka, jeśli spełnia jedną z dwóch ścieżek. Ścieżka 1 (art. 6 ust. 1): jest komponentem bezpieczeństwa produktu lub sam jest produktem objętym aktem z załącznika I, a ten produkt musi przejść ocenę zgodności przez stronę trzecią. Ścieżka 2 (art. 6 ust. 2): jest używany do zastosowania z załącznika III i nie ma zastosowania wyjątek z art. 6 ust. 3; profilowanie osób fizycznych nigdy nie jest wyłączone. Dla produktów z sekcji B załącznika I stosuje się tylko art. 6 ust. 1, art. 60a oraz art. 102–112, a art. 57–59 tylko w takim zakresie, w jakim przepisy sektorowe uwzględniły wymogi dla systemów wysokiego ryzyka (art. 2 ust. 2). Przejdź przez kryteria w drzewie decyzyjnym powyżej.
Co się stanie, jeśli błędnie sklasyfikuję system AI?
Jeśli system z załącznika III zostanie błędnie sklasyfikowany jako niebędący systemem wysokiego ryzyka w celu obejścia przepisów, dostawca podlega karom na podstawie art. 99 (art. 80 ust. 7). Kary za naruszenie obowiązków dostawców z art. 16 wynoszą do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % całkowitego światowego rocznego obrotu, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Dla MŚP i małych spółek o średniej kapitalizacji granicą jest niższa z tych dwóch kwot (art. 99 ust. 6 i 6a).
Czy klasyfikacja ryzyka systemu AI może się zmienić w czasie?
Tak. Komisja może zmieniać załącznik III i warunki z art. 6 ust. 3 w drodze aktów delegowanych (art. 7, art. 6 ust. 6 i 7). Zmiana przeznaczenia też może zmienić klasyfikację: kto zmienia przeznaczenie systemu, który nie był wysokiego ryzyka i jest już w obrocie lub w użyciu, tak że staje się on systemem wysokiego ryzyka, zostaje jego dostawcą (art. 25 ust. 1 lit. c). Oceń klasyfikację na nowo, gdy zmieni się cel lub kontekst użycia. Rozporządzenie (UE) 2026/1744 („Digital Omnibus on AI”) ustaliło daty stosowania przepisów dla systemów wysokiego ryzyka: 2 grudnia 2027 dla systemów z załącznika III i 2 sierpnia 2028 dla systemów z załącznika I. Zakazy z art. 5 obowiązują od 2 lutego 2025 (art. 5 ust. 1 lit. ba i bb: od 2 grudnia 2026), a obowiązki GPAI od 2 sierpnia 2025.
Czy korzystanie z API AI innej firmy czyni mój system systemem wysokiego ryzyka?
To zależy od przeznaczenia Twojego systemu, a nie od pochodzenia modelu. Jeśli włączasz zewnętrzne API AI do systemu o zastosowaniu z załącznika III, na przykład do scoringu kredytowego lub rekrutacji, Twój system jest systemem wysokiego ryzyka, chyba że ma zastosowanie wyjątek z art. 6 ust. 3. Kto wprowadza taki system do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym, jest jego dostawcą (art. 3 pkt 3) i ponosi obowiązki dostawcy, niezależnie od tego, kto stworzył model. Dostawca modelu ma własne obowiązki GPAI.
Scanara przygotowuje dowody na podstawie Państwa repozytoriów
Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.