Artykuł 15 rozporządzenia AI: dokładność, solidność i cyberbezpieczeństwo
Art. 15 wymaga od systemów AI wysokiego ryzyka odpowiedniej dokładności, solidności i cyberbezpieczeństwa. Ten przewodnik omawia wymogi i typowe sposoby ich testowania.
Dostawcy systemów AI wysokiego ryzyka muszą projektować je tak, aby w całym cyklu życia osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa (art. 15).
Dostawcy muszą deklarować poziomy i wskaźniki dokładności w instrukcji obsługi (art. 15 ust. 3). Obejmuje systemy wprowadzone do obrotu lub oddane do użytku w UE. Obowiązuje od 2 grudnia 2027 (załącznik III) i od 2 sierpnia 2028 (załącznik I). Kary sięgają 15 mln EUR lub 3 % całkowitego światowego obrotu rocznego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Następny krok: wybierz wskaźniki dokładności i przetestuj je.
Art. 15 w pięciu punktach
Art. 15 ust. 1 wymaga odpowiedniego poziomu dokładności, solidności i cyberbezpieczeństwa oraz konsekwentnego działania w całym cyklu życia. Pięć poniższych punktów grupuje ust. 3–5. Rozporządzenie wyznacza cele, a nie metody testów ani progi. Komisja zachęca do opracowywania poziomów odniesienia i metod pomiarowych wraz z organami metrologicznymi i organami ds. analizy porównawczej (art. 15 ust. 2).
Deklarowane poziomy i wskaźniki dokładności
Zadeklaruj poziomy dokładności i odpowiednie wskaźniki dokładności w instrukcji obsługi (art. 15 ust. 3).
Odporność na błędy i usterki
Zadbaj, aby system był możliwie jak najodporniejszy na błędy, usterki lub niespójności w systemie lub jego środowisku, także w wyniku interakcji z osobami lub innymi systemami. Podejmij środki techniczne i organizacyjne; redundancja techniczna, np. plany zapasowe lub „fail-safe”, może zapewnić solidność (art. 15 ust. 4).
Kontrola sprzężenia zwrotnego
Jeśli system uczy się dalej po wprowadzeniu do obrotu lub oddaniu do użytku, wyeliminuj lub w możliwie największym stopniu ogranicz ryzyko, że stronnicze wyniki wpłyną na przyszłe dane wejściowe (sprzężenie zwrotne). Zajmij się tym odpowiednimi środkami ograniczającymi ryzyko (art. 15 ust. 4).
Odporność na nieupoważnione osoby trzecie
System musi być odporny na próby nieupoważnionych osób trzecich zmiany jego wykorzystania, wyników lub skuteczności działania przez wykorzystanie słabych punktów. Rozwiązania cyberbezpieczeństwa muszą być dostosowane do okoliczności i ryzyka (art. 15 ust. 5).
Środki przeciw atakom specyficznym dla AI
W stosownych przypadkach przewiduj środki zapobiegania, wykrywania, reagowania, rozwiązywania i kontrolowania ataków i wad, o których mowa w art. 15 ust. 5. Są to zatruwanie danych (zmanipulowane dane treningowe), zatruwanie modelu (zmanipulowane elementy pretrenowane), przykłady kontradyktoryjne lub omijanie modelu (dane wejściowe wywołujące błąd), ataki na poufność i wady modelu.
Cztery kroki inżynierskie wspierające art. 15
Art. 15 nie narzuca metody testów. Te kroki to typowe sposoby wykazania spełnienia wymogów.
Testy kontradyktoryjne w CI
Uruchamiaj testy solidności z przykładami kontradyktoryjnymi w potoku CI/CD: generuj przykłady kontradyktoryjne, testuj granice modelu i sprawdzaj zabezpieczenia przed znanymi wzorcami ataków.
Porównywanie dokładności
Mierz dokładność zadeklarowanymi wskaźnikami dla każdej wersji modelu, zbioru danych i środowiska wdrożenia, aby wykrywać pogorszenie.
Redundancja i projekt „fail-safe”
Zbuduj rozwiązania zapasowe dla ścieżek krytycznych: modele zapasowe, monitory bezpieczeństwa i przekazanie sprawy człowiekowi, gdy pewność spadnie poniżej ustawionego przez ciebie progu.
Bezpieczeństwo łańcucha dostaw modelu
Skanuj zależności i modele bazowe pod kątem podatności oraz weryfikuj pochodzenie modeli zewnętrznych i integralność potoków treningowych.
Instrukcja obsługi podaje poziom przetestowany i oczekiwany
Instrukcja obsługi musi podawać poziom dokładności, solidności i cyberbezpieczeństwa, względem którego system przetestowano i zwalidowano i którego można oczekiwać. Musi też podawać znane okoliczności, które mogą na niego wpływać (art. 13 ust. 3 lit. b ppkt (ii)). Zachowaj wyniki testów, które potwierdzają każdy zadeklarowany poziom.
Art. 15 dotyczy wyłącznie systemów AI wysokiego ryzyka
System jest systemem wysokiego ryzyka, jeśli należy do obszaru z załącznika III, chyba że ma zastosowanie wyłączenie z art. 6 ust. 3. System, który profiluje osoby fizyczne, jest zawsze systemem wysokiego ryzyka. Jest nim także, jeśli jest produktem objętym załącznikiem I, który wymaga oceny zgodności przez stronę trzecią, lub jego komponentem bezpieczeństwa (art. 6). Dostawcy podlegają przepisom, gdy wprowadzają system do obrotu w UE lub oddają go do użytku w UE, bez względu na miejsce siedziby (art. 2 ust. 1 lit. a). Dostawcy i podmioty wdrażające z państw trzecich również podlegają przepisom, gdy wyniki systemu są wykorzystywane w UE (art. 2 ust. 1 lit. c). Systemy wysokiego ryzyka związane z produktami objętymi aktami z załącznika I sekcja B nie podlegają przepisom art. 15 (art. 2 ust. 2). W przypadku produktów z załącznika I sekcja A niektóre wymogi mogą zostać ograniczone (art. 2 ust. 13). Dotyczy to art. 9–15 i 17–25, jeśli prawo sektorowe zapewnia równoważny lub wyższy poziom ochrony. Akty delegowane, które mają zostać przyjęte do 2 sierpnia 2027, określą które. Rozporządzenie wyłącza zastosowania wojskowe, obronne i związane z bezpieczeństwem narodowym, systemy opracowane wyłącznie do celów badań naukowych oraz badania i testy przed wprowadzeniem do obrotu (art. 2 ust. 3, 6 i 8). Systemy wprowadzone do obrotu lub oddane do użytku przed datą rozpoczęcia stosowania podlegają przepisom tylko po istotnych zmianach konstrukcji. W każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2).
Częste pytania: progi, testy, certyfikacja i kary
Jaki próg dokładności jest „odpowiedni”?
Rozporządzenie nie podaje liczby i nie mówi, jaki poziom jest odpowiedni dla jakiego zastosowania. Wymaga odpowiedniego poziomu, zadeklarowanego wraz ze wskaźnikami w instrukcji obsługi (art. 15 ust. 1 i 3). Podaj używany wskaźnik i zmierzony wynik.
Czy to wymaga formalnego red teamingu?
Nie. Art. 15 nie wskazuje metody testów. Art. 15 ust. 5 wymaga środków przeciw atakom takim jak zatruwanie danych i przykłady kontradyktoryjne, a testy kontradyktoryjne to jeden ze sposobów wykazania, że te środki działają.
Jak testuje się solidność w praktyce?
Typowe metody to wstrzykiwanie błędów, generowanie przykładów kontradyktoryjnych, testy wartości granicznych i scenariusze pogorszenia, z uszkodzonymi danymi wejściowymi, zmianami rozkładu i przypadkami skrajnymi. Art. 15 nie wskazuje żadnej z nich. Wybierz metody dopasowane do ryzyk ustalonych zgodnie z art. 9.
Czy istniejące certyfikaty lub przepisy o cyberbezpieczeństwie obejmują art. 15?
Tylko w dwóch określonych przypadkach. Systemy certyfikowane w ramach programu certyfikacji cyberbezpieczeństwa na podstawie rozporządzenia (UE) 2019/881 lub te, dla których wydano oświadczenie o zgodności, uznaje się za zgodne z wymogami cyberbezpieczeństwa z art. 15 (art. 42 ust. 2). Dotyczy to sytuacji, gdy odniesienia programu opublikowano w Dzienniku Urzędowym, i tylko w zakresie, w jakim obejmuje je certyfikat lub oświadczenie. Systemy objęte zakresem aktu o cyberodporności (rozporządzenie (UE) 2024/2847), które spełniają warunki jego art. 12 ust. 1, uznaje się za zgodne (art. 42 ust. 3). Oba przypadki dotyczą tylko cyberbezpieczeństwa, nie dokładności ani solidności.
Jakiej dokumentacji oczekuje się dla dokładności i solidności?
Zadeklaruj poziomy i wskaźniki dokładności w instrukcji obsługi (art. 15 ust. 3). Dokumentacja techniczna musi ponadto opisywać procedury walidacji i testowania, wskaźniki dokładności i solidności, sprawozdania z testów oraz środki cyberbezpieczeństwa (załącznik IV pkt 2 lit. g i h).
Jakie są kary i czy MŚP mają niższą górną granicę?
Dla dostawców (art. 16) i podmiotów wdrażających (art. 26) kary sięgają do 15 mln EUR lub 3 % całkowitego światowego obrotu rocznego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Dla MŚP, w tym przedsiębiorstw typu start-up, i małych spółek o średniej kapitalizacji górną granicą jest niższa z tych dwóch kwot (art. 99 ust. 6 i 6a). Państwa członkowskie ustanawiają przepisy o sankcjach (art. 99 ust. 1).
Czytaj dalej: jak art. 15 łączy się z art. 9, 10, 11 i 13
Artykuł 9: zarządzanie ryzykiem
Wybieraj metody testów dopasowane do ryzyk, które ustalasz w systemie zarządzania ryzykiem.
Artykuł 10: dane i zarządzanie danymi
Art. 10 wyznacza zasady jakości dla danych treningowych, walidacyjnych i testowych.
Artykuł 11: dokumentacja techniczna
Dokumentacja techniczna zawiera procedury walidacji i testowania, wskaźniki dokładności i środki cyberbezpieczeństwa (załącznik IV).
Artykuł 13: przejrzystość
Instrukcja obsługi musi podawać zadeklarowane poziomy dokładności, solidności i cyberbezpieczeństwa.
Scanara przygotowuje dowody na podstawie Państwa repozytoriów
Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.