Czy mój system AI jest wysokiego ryzyka? Drzewo decyzyjne
Interaktywne drzewo decyzyjne klasyfikacji ryzyka według rozporządzenia AI. Obejmuje zakazane praktyki z artykułu 5, wszystkie 8 kategorii wysokiego ryzyka z załącznika III, obowiązki modeli GPAI i przejrzystość z artykułu 50.
EU AI Act (Rozporządzenie (UE) 2024/1689) klasyfikuje systemy AI na cztery poziomy ryzyka: zabronione, wysokiego ryzyka, ograniczonego ryzyka i minimalnego ryzyka. Każdy poziom niesie inne obowiązki zgodności, od całkowitych zakazów po dobrowolne kodeksy postępowania.
Użyj tego interaktywnego drzewa decyzyjnego, aby określić, gdzie należy Twój system AI. Klasyfikacja podąża za logiką określoną w artykułach 5, 6, 50 i 51 rozporządzenia oraz Załącznikach I i III. Odpowiadaj na każde pytanie na podstawie rzeczywistej funkcjonalności systemu, nie tylko jego zamierzonego użycia.
Interaktywne drzewo decyzyjne
Does your AI system perform any practice listed under Article 5?
Article 5 prohibits social scoring, subliminal manipulation, exploitation of vulnerabilities, real-time remote biometric identification in public spaces (with limited exceptions), predictive policing based solely on profiling, untargeted scraping for facial recognition databases, emotion recognition in workplaces/schools, and biometric categorisation inferring sensitive attributes.
Zrozumienie ram klasyfikacji ryzyka
EU AI Act ustanawia proporcjonalne, oparte na ryzyku podejście do regulacji AI. Im wyższe ryzyko, jakie system AI stanowi dla praw podstawowych i bezpieczeństwa, tym surowsze wymagania. Ramy te obowiązują dostawców, podmioty wdrażające, importerów, dystrybutorów i upoważnionych przedstawicieli działających na rynku UE lub wpływających na niego.
Zabronione (niedopuszczalne ryzyko)
Praktyki AI stanowiące niedopuszczalne ryzyko dla praw podstawowych. Są całkowicie zakazane na mocy art. 5, z karami do 35 mln EUR lub 7% globalnego obrotu. Obejmują scoring społeczny, manipulację podprogową, wykorzystywanie grup wrażliwych i niektóre praktyki biometryczne.
Wysokie ryzyko
Systemy AI używane w obszarach krytycznych wymienionych w Załączniku III (biometria, infrastruktura krytyczna, zatrudnienie, edukacja, organy ścigania itp.) lub jako komponenty bezpieczeństwa produktów objętych prawodawstwem Załącznika I. Podlegają kompleksowym wymaganiom obejmującym zarządzanie ryzykiem, zarządzanie danymi, dokumentację techniczną, prowadzenie rejestrów, przejrzystość, nadzór ludzki, dokładność i odporność.
Ograniczone ryzyko
Systemy AI wchodzące w interakcję z osobami fizycznymi, generujące treści syntetyczne lub wykonujące rozpoznawanie emocji lub kategoryzację biometryczną. Podlegają obowiązkom przejrzystości na mocy art. 50: użytkownicy muszą być informowani o interakcji z AI, a treści syntetyczne muszą być oznakowane.
Minimalne ryzyko
Większość systemów AI należy do tej kategorii. Brak obowiązkowych wymagań, ale zachęca się do stosowania dobrowolnych kodeksów postępowania zgodnie z art. 95. Przykłady: filtry antyspamowe, gry z AI i systemy zarządzania inwentarzem.
Częste błędy klasyfikacyjne
Klasyfikacja według intencji, a nie możliwości
Rozporządzenie klasyfikuje na podstawie tego, co system AI może zrobić, a nie tylko tego, do czego jest przeznaczony. Narzędzie do screeningu HR jest systemem wysokiego ryzyka niezależnie od tego, czy pracodawca twierdzi, że używa go tylko jako silnika sugestii.
Ignorowanie wyjątku z art. 6 ust. 3
Nie wszystkie systemy z Załącznika III są automatycznie systemami wysokiego ryzyka. Jeśli Twój system wykonuje tylko wąskie zadania proceduralne, poprawia wcześniejszą pracę ludzką lub przygotowuje oceny do przeglądu ludzkiego, może kwalifikować się do wyjątku z art. 6 ust. 3. Ale musisz to udokumentować przed wprowadzeniem na rynek.
Zapominanie o klasyfikacji dalszego łańcucha
Model GPAI używany jako komponent w systemie wysokiego ryzyka uruchamia obowiązki wysokiego ryzyka dla dostawcy dalszego łańcucha. Klasyfikacja musi uwzględniać pełny kontekst wdrożenia, a nie tylko model w izolacji.
Często zadawane pytania
Powiązane przewodniki
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.