Artykuł 13: przejrzystość w AI fintech — EU AI Act
Jak wymogi przejrzystości z artykułu 13 EU AI Act stosują się do AI usług finansowych — wyjaśnialność decyzji kredytowych, zawiadomienia o odmowie, prawa kredytobiorców.
Artykuł 13 EU AI Act wymaga, aby systemy AI wysokiego ryzyka były wystarczająco przejrzyste, umożliwiając podmiotom stosującym interpretację wyników i ich właściwe wykorzystanie. W usługach finansowych przejrzystość bezpośrednio wpływa na prawa kredytobiorców, ochronę inwestorów i zarządzanie ryzykiem systemowym. Zgodnie z Załącznikiem III, Sekcja 5(b), systemy AI wykorzystywane do oceny zdolności kredytowej i scoringu kredytowego są klasyfikowane jako systemy wysokiego ryzyka i podlegają pełnemu zakresowi obowiązków w zakresie przejrzystości z artykułu 13.
Ta strona wyjaśnia, w jaki sposób wymogi przejrzystości z artykułu 13 mają zastosowanie w szczególności do fintechu — od decyzji kredytowych po handel algorytmiczny — w tym prawa kredytobiorców do wyjaśnień, instrukcje dla urzędników kredytowych, przejrzystość działań niekorzystnych oraz jakie naruszenia na poziomie kodu Scanara wykrywa w finansowych systemach AI.
Które systemy AI fintechu muszą być przejrzyste?
Scoring kredytowy i decyzje kredytowe
Systemy AI oceniające zdolność kredytową lub formułujące rekomendacje kredytowe muszą wyjaśniać, które czynniki zadecydowały o decyzji. “Twój wniosek został odrzucony przez nasz zautomatyzowany system” bez konkretnych powodów jest niezgodne z artykułem 13(1).
Ocena ryzyka ubezpieczeniowego
Systemy AI do wyceny i underwritingu, które określają składki lub uprawnienia do ochrony, muszą być przejrzyste w zakresie czynników wpływających na oceny ryzyka. Ubezpieczający muszą rozumieć, dlaczego ich składka została ustalona na określonym poziomie.
Przesiewowe badanie przeciwdziałania praniu pieniędzy (AML)
Systemy AI oznaczające podejrzane transakcje lub klientów do przeglądu AML muszą zapewniać specjalistom ds. zgodności interpretowalne wyniki wyjaśniające, dlaczego transakcja lub rachunek zostały oznaczone, umożliwiając odpowiednie dochodzenie prowadzone przez człowieka.
Odpowiedniość inwestycji i doradztwo zrobotyzowane
Systemy AI rekomendujące produkty inwestycyjne muszą wyjaśniać uzasadnienie stojące za rekomendacjami. Zgodnie z MiFID II oceny odpowiedniości muszą być przejrzyste — artykuł 13 dodaje przejrzystość na poziomie systemu dotyczącą tego, w jaki sposób AI dochodzi do swoich rekomendacji.
Systemy wykrywania oszustw
AI oznaczająca potencjalnie oszukańcze transakcje musi zapewniać analitykom ds. oszustw interpretowalny kontekst alarmu. Wynik oszustwa bez wyjaśnienia przyczyniających się sygnałów uniemożliwia odpowiednie dochodzenie wymagane przez artykuł 13(1).
Kluczowe obowiązki w zakresie przejrzystości dla fintechu
Artykuł 13 wymaga instrukcji obsługi, które umożliwiają podmiotom stosującym właściwą interpretację wyników AI. W przypadku fintechu oznacza to, że urzędnicy kredytowi i personel ds. zgodności muszą rozumieć, w jaki sposób wyniki AI odpowiadają zdolności kredytowej, jakie są znane ograniczenia systemu oraz kiedy ocena ludzka powinna unieważnić rekomendacje algorytmiczne.
Kredytobiorcy muszą otrzymać wyjaśnienia
Gdy kredyt zostaje odrzucony na podstawie AI, kredytobiorca musi otrzymać wyjaśnienie, które czynniki zadecydowały o decyzji. Artykuł 13 w połączeniu z artykułem 147 CRD IV wymaga, aby niekorzystne decyzje kredytowe zawierały konkretne powody, a nie tylko ogólne zawiadomienie o odrzuceniu. Wyjaśnienie musi odnosić się do czynników algorytmicznych, które przyczyniły się do wyniku.
Powiązanie wyniku AI z decyzją musi być udokumentowane
Instrukcje obsługi muszą wyjaśniać urzędnikom kredytowym, w jaki sposób wynik AI odpowiada zdolności kredytowej i jakie są jego znane ograniczenia. Surowy wynik (“Ryzyko kredytowe: 0,73”) bez kontekstu dotyczącego tego, co to oznacza dla decyzji kredytowych, jak został wyprowadzony i kiedy może być niewiarygodny, uniemożliwia właściwe wykorzystanie na mocy artykułu 13(1).
Zawiadomienia o działaniach niekorzystnych muszą zawierać czynniki AI
Zawiadomienia o działaniach niekorzystnych (już wymagane na mocy CRD) muszą teraz zawierać przejrzystość specyficzną dla AI dotyczącą czynników algorytmicznych. Ogólne stwierdzenia, takie jak “na podstawie naszych kryteriów oceny”, są niewystarczające, gdy kryteria są określane algorytmicznie — konkretne czynniki napędzane przez AI muszą zostać ujawnione.
Metryki wydajności muszą zostać ujawnione
Artykuł 13(3)(b)(ii) wymaga ujawnienia dokładności, odporności i wydajności w zakresie cyberbezpieczeństwa. W przypadku scoringu kredytowego oznacza to raportowanie dokładności prognozy niewypłacalności, metryk kalibracji oraz znanych różnic w wydajności między segmentami klientów — zdezagregowanych w celu ujawnienia potencjalnego odmiennego oddziaływania.
Nakładanie się regulacji
Przejrzystość AI fintechu znajduje się na styku regulacji finansowych, ochrony konsumentów i prawa ochrony danych. Artykuł 13 musi być skoordynowany z już obowiązującymi sektorowymi wymogami przejrzystości.
Wytyczne EBA dotyczące AI w ocenie kredytowej
Europejski Urząd Nadzoru Bankowego wydał wytyczne dotyczące wykorzystania AI w ocenie zdolności kredytowej, wymagając wyjaśnialności i przejrzystości dla decyzji kredytowych napędzanych przez AI. Wytyczne te są zgodne z artykułem 13, ale dodają sektorowe wymogi dotyczące walidacji modeli, dokumentacji i sprawozdawczości nadzorczej, które instytucje finansowe muszą spełniać obok obowiązków AI Act.
Artykuł 147 CRD IV — Wyjaśnienie decyzji kredytowej
Dyrektywa w sprawie wymogów kapitałowych wymaga od instytucji podawania powodów niekorzystnych decyzji kredytowych. Artykuł 13 rozszerza to, wymagając przejrzystości dotyczącej samego systemu AI — nie tylko wyniku decyzji, ale charakterystyki, możliwości, ograniczeń i metryk wydajności systemu, które są podstawą procesu decyzyjnego.
MiFID II — Odpowiedniość i adekwatność
MiFID II wymaga od firm inwestycyjnych oceny odpowiedniości klienta i przedstawiania odpowiednich rekomendacji. Gdy AI napędza oceny odpowiedniości, muszą zostać spełnione zarówno przejrzystość MiFID II (wobec klientów), jak i przejrzystość artykułu 13 (wobec podmiotów stosujących). Doradcy muszą rozumieć logikę AI, aby wypełnić swoje obowiązki wynikające z MiFID II.
PSD2 — Przejrzystość usług płatniczych
Dyrektywa w sprawie usług płatniczych wymaga przejrzystości w przetwarzaniu płatności, w tym gdy transakcje są odrzucane. Napędzane przez AI wykrywanie oszustw lub przesiewowe badanie transakcji musi zapewniać znaczące wyjaśnienia, gdy płatności są blokowane — artykuł 13 dodaje wymogi dotyczące skierowanej do podmiotów stosujących dokumentacji logiki i ograniczeń systemu przesiewowego.
Typowe naruszenia wykrywane przez Scanara
Odrzucenie kredytu bez ujawnienia czynników algorytmicznych
Punkty końcowe decyzji kredytowej zwracające odpowiedzi o odrzuceniu bez uwzględnienia konkretnych czynników algorytmicznych, które zadecydowały o niekorzystnej decyzji. Artykuł 13(1) wymaga interpretowalnych wyników — Scanara oznacza API decyzji kredytowych, które zwracają wyłącznie kod statusu bez wyjaśnienia na poziomie czynników.
Wynik ryzyka bez powiązania wyniku z decyzją
Odpowiedzi API zwracające wyniki ryzyka kredytowego bez dokumentacji powiązującej wyniki z kategoriami zdolności kredytowej. Surowe prawdopodobieństwo lub wynik bez kontekstu dotyczącego progów, interpretacji i przedziałów ufności uniemożliwia urzędnikom kredytowym właściwe wykorzystanie wyniku.
Brak nagłówka ujawnienia w odpowiedziach API skierowanych do klientów
Punkty końcowe skierowane do klientów (pulpity rachunków, portale kredytowe), które wyświetlają oceny napędzane przez AI bez ujawnienia, że ocena została wygenerowana przez system AI. Artykuł 50(1) wymaga powiadomienia, gdy osoby fizyczne wchodzą w interakcję z systemami AI.
Lista kontrolna zgodności z artykułem 13 dla fintechu
Uczynić decyzje kredytowe interpretowalnymi
Zapewnij, aby urzędnicy kredytowi i personel ds. zgodności mogli zrozumieć, które czynniki zadecydowały o rekomendacji kredytowej AI. Zapewnij wyjaśnienia na poziomie czynników, wskazówki dotyczące interpretacji wyników oraz wskaźniki ufności obok każdego wyniku AI.
Udokumentować powiązanie wyniku z decyzją
Zapewnij instrukcje wyjaśniające, w jaki sposób wyniki AI odpowiadają zdolności kredytowej, co oznaczają zakresy wyników dla decyzji kredytowych oraz kiedy urzędnicy kredytowi powinni wykazywać niezależną ocenę. Uwzględnij progi, przedziały ufności i wskazówki dotyczące przypadków granicznych.
Uwzględnić czynniki AI w zawiadomieniach o działaniach niekorzystnych
Zapewnij, aby zawiadomienia o niekorzystnej decyzji kredytowej zawierały konkretne czynniki algorytmiczne, które przyczyniły się do odmowy. Ogólne sformułowania odrzucenia muszą zostać uzupełnione o powody specyficzne dla AI, spełniające zarówno wymogi CRD IV, jak i artykułu 13.
Ujawnić metryki wydajności i dokładności
Raportuj dokładność modelu, kalibrację i metryki odporności zdezagregowane według odpowiednich segmentów klientów. Uwzględnij znane ograniczenia wydajności, metodykę walidacji oraz warunki, w których prognozy modelu mogą być mniej wiarygodne.
Powiadomić klientów o wykorzystaniu AI
Informuj kredytobiorców i klientów, gdy AI bierze udział w decyzjach ich dotyczących. Ujawnienie powinno nastąpić przed podjęciem decyzji napędzanej przez AI lub w jej momencie w portalach skierowanych do klientów, wnioskach kredytowych i pulpitach rachunków.
Często zadawane pytania
Powiązane zasoby
Artykuł 13: Przejrzystość
Pełne wymogi artykułu 13 we wszystkich branżach.
AI fintechu — Centrum branżowe
Kompletny przewodnik zgodności z EU AI Act dla AI usług finansowych.
Artykuł 12: Prowadzenie rejestrów dla fintechu
Wymogi rejestrowania i prowadzenia rejestrów dla AI finansowej.
Artykuł 14: Nadzór ludzki dla fintechu
Obowiązki nadzoru ludzkiego dla finansowych systemów AI.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.