Skip to main content

Art. 15 dla AI w fintechu: dokładność, solidność i cyberbezpieczeństwo

Jak art. 15 (dokładność, solidność, cyberbezpieczeństwo) dotyczy AI w fintechu: drogi przez scoring kredytowy i ubezpieczenia w załączniku III, terminy, role dostawcy i podmiotu wdrażającego, kary.

Dostawcy systemów AI wysokiego ryzyka, na przykład oprogramowania do scoringu kredytowego, muszą projektować je tak, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa (art. 15).

„Fintech” nie jest kategorią rozporządzenia. Punktami zaczepienia są załącznik III pkt 5 lit. b) (zdolność kredytowa osób fizycznych) i lit. c) (ubezpieczenia na życie i zdrowotne), od 2 grudnia 2027. Dostawca deklaruje poziomy i wskaźniki dokładności w instrukcji obsługi (art. 15 ust. 3). Kary sięgają do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % światowego obrotu rocznego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Następny krok: wypisz wskaźniki, które zadeklarujesz.

Art. 15 wymaga odpowiedniego poziomu, a nie stałej liczby

Art. 15 określa wymogi projektowe dla dostawcy. Nie podaje żadnej wartości dokładności dla żadnego sektora.

  • art. 15(1)
    Odpowiedni poziom w całym cyklu życia

    Systemy AI wysokiego ryzyka projektuje się i opracowuje tak, aby osiągały odpowiedni poziom dokładności, solidności i cyberbezpieczeństwa oraz aby pod tymi względami działały spójnie w całym cyklu życia.

  • art. 15(2)
    Wzorce porównawcze wspiera Komisja

    Komisja zachęca, w stosownych przypadkach, do opracowywania wzorców porównawczych i metod pomiarowych, we współpracy z zainteresowanymi stronami, takimi jak organy metrologiczne i organy ds. analizy porównawczej. To nie jest obowiązek dostawcy.

  • art. 15(3)
    Deklarowanie poziomów i wskaźników

    Poziomy dokładności i odpowiednie wskaźniki dokładności podaje się w dołączonej instrukcji obsługi.

  • art. 15(4)
    Odporność na błędy i pętle sprzężenia zwrotnego

    Systemy muszą być możliwie odporne na błędy, usterki i niespójności, które mogą wystąpić w systemie lub w środowisku jego działania, w szczególności z powodu interakcji z osobami fizycznymi lub innymi systemami. Podejmuje się środki techniczne i organizacyjne; jako opcje wymieniono redundancję techniczną oraz plany zapasowe lub zapewniające bezpieczeństwo. System, który uczy się dalej po wprowadzeniu do obrotu, projektuje się tak, aby wyeliminować lub w maksymalnym stopniu ograniczyć ryzyko, że stronnicze wyniki wpłyną na dane wejściowe w przyszłości (pętle sprzężenia zwrotnego).

  • art. 15(5)
    Cyberbezpieczeństwo wobec nieuprawnionych osób trzecich

    Systemy muszą być odporne na próby nieuprawnionych osób trzecich zmiany ich wykorzystania, wyników lub działania przez wykorzystanie słabych punktów. Rozwiązania techniczne obejmują w stosownych przypadkach środki przeciwko zatruwaniu danych, zatruwaniu modelu, przykładom kontradyktoryjnym lub uchylaniu się modelu, atakom na poufność i wadom modelu.

Która AI w fintechu musi spełniać art. 15

Art. 15 dotyczy wyłącznie systemów AI wysokiego ryzyka. Poniższe wiersze pokazują, kiedy AI w fintechu staje się systemem wysokiego ryzyka.

  • „Fintech” nie jest kategorią rozporządzenia

    Rozporządzenie nie zna kategorii „fintech”. Ta strona używa tego słowa dla AI, która podlega rozporządzeniu dwiema drogami z załącznika III: pkt 5 lit. b) (zdolność kredytowa i scoring kredytowy osób fizycznych) oraz pkt 5 lit. c) (ocena ryzyka i ustalanie cen w ubezpieczeniach na życie i zdrowotnych). Lit. b) wyłącza wykrywanie oszustw. Pkt 5 załącznika III nie wymienia kontroli przeciwdziałania praniu pieniędzy, handlu algorytmicznego, robodoradztwa, ubezpieczeń innych niż ubezpieczenia na życie i zdrowotne ani oceny kredytowej osób prawnych. System może mimo to być systemem wysokiego ryzyka na podstawie innego punktu załącznika III.

  • Załącznik III pkt 5 lit. b) i c)

    Załącznik III pkt 5 lit. b) obejmuje systemy AI przeznaczone do wykorzystywania do celów oceny zdolności kredytowej osób fizycznych lub ustalenia ich scoringu kredytowego, z wyjątkiem systemów AI wykorzystywanych w celu wykrywania oszustw finansowych. Lit. c) obejmuje systemy AI przeznaczone do wykorzystywania przy ocenie ryzyka i ustalaniu cen w odniesieniu do osób fizycznych w przypadku ubezpieczenia na życie i ubezpieczenia zdrowotnego. Zgodnie z art. 6 ust. 2 systemy AI, o których mowa w załączniku III, uznaje się za systemy wysokiego ryzyka. Dostawca, który uważa, że taki system nie jest systemem wysokiego ryzyka na podstawie art. 6 ust. 3, musi udokumentować swoją ocenę przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku i zarejestrować go zgodnie z art. 49 ust. 2. Odstępstwo nigdy nie ma zastosowania, gdy system dokonuje profilowania osób fizycznych. Profilowanie oznacza profilowanie zgodnie z definicją w art. 4 pkt 4 rozporządzenia (UE) 2016/679 (art. 3 pkt 52); rozporządzenie nie rozstrzyga, czy dany system scoringowy dokonuje profilowania.

  • Dostawca i podmiot wdrażający

    Dostawca opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą (art. 3 pkt 3); może to być dostawca oprogramowania albo bank, który opracowuje system na własny użytek. Osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który wykorzystuje system pod własnym nadzorem, na przykład bank, zakład ubezpieczeń lub pożyczkodawca, jest podmiotem wdrażającym (w rozporządzeniu: podmiot stosujący) (art. 3 pkt 4). Podmiot wdrażający staje się dostawcą, jeżeli umieści swoją nazwę lub znak towarowy na systemie wysokiego ryzyka już wprowadzonym do obrotu, wprowadzi istotną zmianę, po której system pozostaje systemem wysokiego ryzyka, albo zmieni przeznaczenie systemu niebędącego systemem wysokiego ryzyka tak, że staje się nim (art. 25 ust. 1).

  • Terminy

    Załącznik III pkt 5 lit. b) i c) obowiązuje od 2 grudnia 2027 (art. 113 akapit trzeci lit. c)). System wprowadzony do obrotu lub oddany do użytku przed tą datą jest objęty rozporządzeniem tylko wtedy, gdy po niej wprowadzono istotne zmiany w jego projekcie; w każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2).

  • Kary

    Naruszenie obowiązków dostawców (art. 16) i podmiotów wdrażających (art. 26) może skutkować karą pieniężną do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). Ten sam pułap dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy określające, w jakim zakresie kary administracyjne mogą być nakładane na organy i podmioty publiczne ustanowione w tym państwie członkowskim (art. 99 ust. 8).

  • Granice zakresu stosowania rozporządzenia

    Rozporządzenie stosuje się do dostawców wprowadzających do obrotu lub oddających do użytku systemy AI w Unii albo wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, bez względu na miejsce ich siedziby (art. 2 ust. 1 lit. a)), oraz do dostawców i podmiotów wdrażających z siedzibą w państwie trzecim, jeżeli wyniki działania systemu AI są wykorzystywane w Unii (lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres prawa Unii i nie wpływa na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego; nie stosuje się go też do systemów AI wykorzystywanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3).

Co rozporządzenie pozostawia otwarte dla fintechu

  • Brak wartości dokładności dla fintechu

    Art. 15 nie podaje dla żadnego sektora wskaźnika dokładności, wartości minimalnej, metody testowania ani normy, także dla scoringu kredytowego czy ubezpieczeń. Dostawca deklaruje poziomy i odpowiednie wskaźniki (art. 15 ust. 3). Normy zharmonizowane, do których odniesienia opublikowano w Dzienniku Urzędowym, dają domniemanie zgodności w zakresie, w jakim obejmują wymogi (art. 40 ust. 1); opublikowany certyfikat cyberbezpieczeństwa na podstawie rozporządzenia (UE) 2019/881 daje je w odniesieniu do wymogów cyberbezpieczeństwa w zakresie, w jakim je obejmuje (art. 42 ust. 2). Systemy objęte zakresem rozporządzenia (UE) 2024/2847, które spełniają warunki art. 12 ust. 1 tego rozporządzenia, uznaje się za zgodne z wymogami cyberbezpieczeństwa z art. 15 (art. 42 ust. 3). Komisja opracowuje wytyczne dotyczące stosowania wymogów i obowiązków z art. 8–15 oraz art. 25 i 26 (art. 96 ust. 1 lit. a)).

  • Przykład: wskaźniki dla modelu scoringu kredytowego

    Przykład, nie wymóg rozporządzenia: dostawca modelu scoringu kredytowego mógłby zadeklarować, jakie wskaźniki dokładności zmierzył, oraz wskazać populację wnioskodawców i okres, na których je zmierzono.

  • Przykład: testy na błędy i ataki

    Przykład, nie wymóg rozporządzenia: dostawca mógłby przetestować system na uszkodzonych lub spoza zakresu danych wejściowych oraz na przykładach kontradyktoryjnych i zachować wyniki.

Pytania o art. 15 w fintechu

Czy art. 15 ustala wartości dokładności dla scoringu kredytowego?

Nie. Art. 15 ust. 1 wymaga odpowiedniego poziomu, a art. 15 ust. 3 zobowiązuje dostawcę do zadeklarowania poziomów i odpowiednich wskaźników w instrukcji obsługi. Rozporządzenie nie podaje wartości, wskaźnika ani metody testowania dla scoringu kredytowego ani ubezpieczeń.

Czy art. 15 dotyczy AI do wykrywania oszustw?

Art. 15 dotyczy systemów AI wysokiego ryzyka. Załącznik III pkt 5 lit. b) wyłącza systemy wykorzystywane do wykrywania oszustw finansowych, więc taki system nie jest systemem wysokiego ryzyka na podstawie tego punktu. Jest nim tylko wtedy, gdy obejmuje go inny punkt załącznika III (art. 6 ust. 2).

Kto musi spełniać art. 15, gdy bank kupuje narzędzie do scoringu kredytowego?

Dostawca projektuje system tak, aby spełniał art. 15 (art. 16 lit. a)). Bank jest podmiotem wdrażającym i korzysta z systemu zgodnie z instrukcją obsługi (art. 26 ust. 1). Podmiot wdrażający, który umieści swoją nazwę na systemie, wprowadzi istotną zmianę lub zmieni przeznaczenie, staje się dostawcą (art. 25 ust. 1).

Powiązane strony

Scanara przygotowuje dowody na podstawie Państwa repozytoriów

Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.