Skip to main content

Art. 15 w biometrii: dokładność, solidność i cyberbezpieczeństwo

Jak art. 15 (dokładność, solidność, cyberbezpieczeństwo) dotyczy AI biometrycznej z załącznika III pkt 1: zakres, role, terminy, kary i czego rozporządzenie nie rozstrzyga.

Dostawcy systemów AI wysokiego ryzyka w biometrii muszą je projektować tak, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa (art. 15 ust. 1).

To systemy z załącznika III pkt 1; art. 15 dotyczy ich od 2 grudnia 2027. Dostawca deklaruje poziomy i wskaźniki dokładności w instrukcji obsługi (art. 15 ust. 3). Organizacje, które tylko korzystają z takiego systemu, są podmiotami wdrażającymi i nie są związane art. 15. Kary sięgają 15 mln EUR lub, dla przedsiębiorstwa, 3 % światowego obrotu rocznego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Następny krok: wypisz wskaźniki, które zadeklarujesz.

Art. 15 wymaga odpowiedniego poziomu, a nie stałej liczby

Art. 15 określa wymogi projektowe dla dostawcy. Nie podaje żadnej wartości dokładności dla żadnego sektora.

  • art. 15(1)
    Odpowiedni poziom w całym cyklu życia

    Systemy AI wysokiego ryzyka projektuje się i opracowuje tak, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa oraz aby pod tymi względami działały spójnie w całym cyklu życia.

  • art. 15(2)
    Wzorce porównawcze wspiera Komisja

    Komisja zachęca, w stosownych przypadkach, do opracowywania wzorców porównawczych i metod pomiarowych, we współpracy z zainteresowanymi stronami, takimi jak organy metrologiczne i organy ds. analizy porównawczej. To nie jest obowiązek dostawcy.

  • art. 15(3)
    Deklarowanie poziomów i wskaźników

    Poziomy dokładności i odpowiednie wskaźniki dokładności podaje się w dołączonej instrukcji obsługi.

  • art. 15(4)
    Odporność na błędy i pętle sprzężenia zwrotnego

    Systemy muszą być możliwie odporne na błędy, usterki i niespójności, które mogą wystąpić w systemie lub w środowisku jego działania, w szczególności z powodu interakcji z osobami fizycznymi lub innymi systemami. Podejmuje się środki techniczne i organizacyjne; jako opcje wymieniono redundancję techniczną oraz plany zapasowe lub zapewniające bezpieczeństwo. System, który uczy się dalej po wprowadzeniu do obrotu, projektuje się tak, aby wyeliminować lub w maksymalnym stopniu ograniczyć ryzyko, że stronnicze wyniki wpłyną na dane wejściowe w przyszłości (pętle sprzężenia zwrotnego).

  • art. 15(5)
    Cyberbezpieczeństwo wobec nieuprawnionych osób trzecich

    Systemy muszą być odporne na próby nieuprawnionych osób trzecich zmiany ich wykorzystania, wyników lub działania przez wykorzystanie słabych punktów. Rozwiązania techniczne obejmują w stosownych przypadkach środki przeciwko zatruwaniu danych, zatruwaniu modelu, przykładom kontradyktoryjnym lub uchylaniu się modelu, atakom na poufność i wadom modelu.

Jaka AI biometryczna musi spełniać art. 15

Art. 15 wiąże tylko dostawców systemów AI wysokiego ryzyka. Poniższe wiersze pokazują, gdzie AI biometryczna staje się systemem wysokiego ryzyka.

  • Biometria jest ograniczonym obszarem załącznika III

    Załącznik III ma obszar „Biometria”, ograniczony do lit. a)–c) i do zastosowań dozwolonych na mocy odpowiednich przepisów prawa Unii lub prawa krajowego (załącznik III pkt 1). Rozporządzenie nie zawiera szerszego reżimu dla biometrii. Ta strona zalicza do biometrii także zakazy z art. 5 ust. 1 lit. e)–h).

  • Załącznik III pkt 1: biometria

    Załącznik III pkt 1 wymienia trzy rodzaje systemów AI, o ile ich stosowanie jest dozwolone na mocy odpowiednich przepisów prawa Unii lub prawa krajowego: a) systemy zdalnej identyfikacji biometrycznej, z wyłączeniem systemów AI przeznaczonych do weryfikacji biometrycznej, których jedynym celem jest potwierdzenie, że dana osoba fizyczna jest osobą, za którą się podaje; b) systemy AI przeznaczone do kategoryzacji biometrycznej według wrażliwych lub chronionych atrybutów lub cech bądź na podstawie wnioskowania o tych atrybutach lub cechach; c) systemy AI przeznaczone do rozpoznawania emocji. Systemy weryfikacji biometrycznej, o których mowa w lit. a), nie są wymienione w pkt 1. Inne systemy z załącznika III nie są systemami wysokiego ryzyka, gdy ma zastosowanie art. 6 ust. 3; zapytaj prawnika, jak łączą się jego warunki. System, który dokonuje profilowania osób fizycznych, jest zawsze systemem wysokiego ryzyka. Dostawca, który uważa system z załącznika III za niebędący systemem wysokiego ryzyka, musi udokumentować tę ocenę przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku oraz zarejestrować go zgodnie z art. 49 ust. 2 (art. 6 ust. 4).

  • Weryfikacja nie jest identyfikacją zdalną

    Weryfikacja biometryczna to zautomatyzowana weryfikacja „jeden do jednego”, w tym uwierzytelnianie, tożsamości osób fizycznych przez porównanie ich danych biometrycznych z uprzednio przekazanymi danymi biometrycznymi (art. 3 pkt 36). System zdalnej identyfikacji biometrycznej identyfikuje osoby fizyczne, bez ich aktywnego udziału, zazwyczaj na odległość, przez porównanie ich danych biometrycznych z danymi biometrycznymi zawartymi w referencyjnej bazie danych (art. 3 pkt 41). Rozporządzenie nie wymienia rodzajów produktów; zakwalifikuj każdy system według tych definicji i jego przeznaczenia (art. 3 pkt 12).

  • Dodatkowe zasady dla dostawcy przy zdalnej identyfikacji

    Dwie z zasad dla dostawcy właściwych dla systemów z załącznika III pkt 1 lit. a) to te. Możliwości rejestrowania zdarzeń muszą zapewniać co najmniej zapis okresu każdego użycia, referencyjnej bazy danych, z którą porównano dane wejściowe, danych wejściowych, dla których wyszukiwanie dało zgodność, oraz tożsamości osób fizycznych uczestniczących w weryfikacji wyników (art. 12 ust. 3). Środki nadzoru ze strony człowieka muszą ponadto zapewniać, aby żadne działanie ani decyzja nie były podejmowane na podstawie identyfikacji, dopóki nie zostanie ona odrębnie zweryfikowana i potwierdzona przez co najmniej dwie osoby fizyczne mające niezbędne kompetencje, przeszkolenie i uprawnienia; nie dotyczy to systemów wykorzystywanych do celów ścigania przestępstw, migracji, kontroli granicznej lub azylu, jeżeli prawo Unii lub prawo krajowe uznaje stosowanie tego wymogu za nieproporcjonalne (art. 14 ust. 5).

  • Dostawca i podmiot wdrażający

    Dostawca, na przykład producent oprogramowania do rozpoznawania twarzy, opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą (art. 3 pkt 3). Przedsiębiorstwo, organ publiczny lub inny podmiot, który wykorzystuje system pod własnym nadzorem, jest podmiotem wdrażającym (w rozporządzeniu: podmiotem stosującym; art. 3 pkt 4). Podmiot wdrażający staje się dostawcą, jeżeli umieści swoją nazwę lub znak towarowy na systemie wysokiego ryzyka już wprowadzonym do obrotu, wprowadzi istotną zmianę, po której system pozostaje systemem wysokiego ryzyka, albo zmieni przeznaczenie systemu niebędącego systemem wysokiego ryzyka tak, że staje się nim (art. 25 ust. 1); w pierwszym przypadku ustalenia umowne mogą rozdzielić obowiązki inaczej. Rozporządzenie nie ma zastosowania do obowiązków podmiotów wdrażających będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności o charakterze niezawodowym (art. 2 ust. 10).

  • Terminy

    Systemy z załącznika III pkt 1 muszą spełniać te obowiązki od 2 grudnia 2027 (art. 113 lit. c) ppkt (i)). System wprowadzony do obrotu lub oddany do użytku przed tą datą jest objęty rozporządzeniem tylko wtedy, gdy po niej wprowadzono istotne zmiany w jego projekcie; w każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2); nie dotyczy to wymienionych dalej komponentów z załącznika X. Systemy AI będące komponentami wielkoskalowych systemów informatycznych wymienionych w załączniku X, które wprowadzono do obrotu lub oddano do użytku przed 2 sierpnia 2027, muszą zostać dostosowane do rozporządzenia do 31 grudnia 2030 (art. 111 ust. 1). Zakazy z art. 5 ust. 1 lit. e)–h) obowiązują od 2 lutego 2025; wyjątek z art. 113 lit. a) ich nie dotyczy. Art. 43 i 49 znajdują się w rozdziale III sekcja 5, której art. 113 nie wymienia w żadnej ze swoich liter. Art. 113 nie podaje dla nich odrębnej daty; skonsultuj się z prawnikiem, od kiedy wiążą dostawców systemów z załącznika III.

  • Kary

    Naruszenie obowiązków dostawców (art. 16) i podmiotów wdrażających (art. 26) może skutkować karą pieniężną do 15 mln EUR lub, jeżeli sprawca jest przedsiębiorstwem, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara może sięgać najwyżej niższej z tych kwot (art. 99 ust. 6); to samo dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie decyduje, w jakim zakresie kary pieniężne mogą być nakładane na organy i podmioty publiczne mające siedzibę na jego terytorium (art. 99 ust. 8).

  • Granice zakresu stosowania

    Rozporządzenie nie ma zastosowania do obszarów wykraczających poza zakres prawa Unii (art. 2 ust. 3, zdanie pierwsze). Nie ma zastosowania do systemów AI w zakresie, w jakim są wprowadzane do obrotu, oddawane do użytku lub wykorzystywane, ze zmianami lub bez zmian, wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3, zdanie drugie). Nie ma zastosowania do organów publicznych państw trzecich ani organizacji międzynarodowych, które wykorzystują systemy AI w ramach współpracy międzynarodowej lub umów w zakresie ścigania przestępstw i współpracy sądowej z Unią lub z jednym państwem członkowskim bądź większą ich liczbą, pod warunkiem że zapewniają odpowiednie zabezpieczenia w zakresie ochrony praw podstawowych i wolności osób fizycznych (art. 2 ust. 4). Nie ma zastosowania do systemów AI ani modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie w celu badań naukowych i prac rozwojowych (art. 2 ust. 6), ani do działalności badawczej, testowej i rozwojowej prowadzonej przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku; testowanie w warunkach rzeczywistych nie jest objęte tym wyłączeniem (art. 2 ust. 8). Nie ma zastosowania do systemów AI udostępnianych na podstawie wolnych licencji otwartego oprogramowania, chyba że są wprowadzane do obrotu lub oddawane do użytku jako systemy AI wysokiego ryzyka albo podlegają art. 5 lub 50 (art. 2 ust. 12).

Czego rozporządzenie nie rozstrzyga w odniesieniu do biometrii

  • Brak wartości dokładności i metody testowania dla biometrii

    Art. 15 nie wskazuje wskaźnika dokładności, wartości minimalnej, metody testowania ani normy dla systemów biometrycznych ani dla żadnego innego sektora. Dostawca deklaruje poziomy i odpowiednie wskaźniki (art. 15 ust. 3). Dokumentacja techniczna musi też opisywać wskaźniki służące do pomiaru dokładności, solidności i zgodności oraz potencjalnie dyskryminujące skutki (załącznik IV pkt 2 lit. g)).

  • Domniemania zgodności

    Rozporządzenie samo nie podaje żadnej normy. Systemy zgodne z normami zharmonizowanymi, do których odniesienia opublikowano w Dzienniku Urzędowym, uznaje się za zgodne z wymogami sekcji 2 w zakresie, w jakim normy te je obejmują (art. 40 ust. 1). Certyfikat cyberbezpieczeństwa lub oświadczenie o zgodności na podstawie rozporządzenia (UE) 2019/881, opublikowane w Dzienniku Urzędowym, daje domniemanie zgodności z wymogami cyberbezpieczeństwa z art. 15 (art. 42 ust. 2); systemy objęte rozporządzeniem (UE) 2024/2847, które spełniają warunki jego art. 12 ust. 1, uznaje się za zgodne z tymi wymogami (art. 42 ust. 3). Komisja opracowuje wytyczne dotyczące stosowania wymogów i obowiązków z art. 8–15 oraz art. 25 i 26 (art. 96 ust. 1 lit. a)).

  • Przykład: podanie, jak zmierzono dokładność

    Przykład, nie wymóg rozporządzenia: dostawca systemu zdalnej identyfikacji biometrycznej mógłby podać obok każdego zadeklarowanego wskaźnika dokładności dane i warunki testu, w których go zmierzono. Art. 15 ust. 3 wymaga tylko poziomów i odpowiednich wskaźników dokładności.

Pytania o art. 15 w biometrii

Czy art. 15 ustala wskaźnik dokładności dla rozpoznawania twarzy?

Nie. Art. 15 ust. 1 wymaga odpowiedniego poziomu, a art. 15 ust. 3 wymaga, by dostawca zadeklarował w instrukcji obsługi poziomy i odpowiednie wskaźniki dokładności. Rozporządzenie nie wskazuje wartości, wskaźnika ani metody testowania dla systemów biometrycznych.

Kto musi spełniać art. 15, gdy organizacja kupuje system zdalnej identyfikacji?

Dostawca projektuje system tak, by spełniał art. 15 (art. 16 lit. a)). Nabywca jest podmiotem wdrażającym i korzysta z systemu zgodnie z instrukcją obsługi (art. 26 ust. 1). Podmiot wdrażający, który umieszcza własną nazwę na systemie, wprowadza istotną zmianę lub zmienia przeznaczenie, staje się dostawcą (art. 25 ust. 1).

Czy kontrola twarzy „jeden do jednego” musi spełniać art. 15?

Nie na podstawie załącznika III pkt 1 lit. a), który nie obejmuje systemów AI przeznaczonych do weryfikacji biometrycznej, których jedynym celem jest potwierdzenie, że dana osoba fizyczna jest osobą, za którą się podaje. Czy taki system jest systemem wysokiego ryzyka z innego powodu, zależy od art. 6 i jego przeznaczenia.

Powiązane strony

Scanara przygotowuje dowody na podstawie Państwa repozytoriów

Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.