Art. 50 dla AI w fintechu: przejrzystość i ujawnianie

Każdy ustęp wskazuje, kto musi ujawniać. Każdy ma też wyjątek dla zastosowań dozwolonych prawem do wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców; ust. 1 i 3 dodają warunki.

• art. 50(1)
  Systemy wchodzące w interakcję z ludźmi (dostawca)

  Dostawcy muszą projektować systemy przeznaczone do bezpośredniej interakcji z osobami fizycznymi tak, aby te osoby były informowane, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej dostatecznie poinformowanej, uważnej i ostrożnej, z uwzględnieniem okoliczności i kontekstu wykorzystywania.

• art. 50(2)
  Oznaczanie syntetycznych wyników (dostawca)

  Dostawcy systemów generujących syntetyczne treści dźwiękowe, obrazowe, wideo lub tekstowe muszą zapewnić, aby wyniki były oznakowane w formacie nadającym się do odczytu maszynowego i wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Obowiązek nie ma zastosowania w zakresie, w jakim system pełni funkcję wspomagającą w zakresie standardowej edycji lub nie zmienia w istotny sposób danych wejściowych ani ich semantyki.

• art. 50(3)
  Rozpoznawanie emocji i kategoryzacja biometryczna (podmiot wdrażający)

  Podmioty wdrażające system rozpoznawania emocji lub system kategoryzacji biometrycznej muszą informować osoby fizyczne, wobec których te systemy są stosowane, o fakcie ich stosowania i przetwarzać dane osobowe zgodnie z obowiązującymi przepisami o ochronie danych.

• art. 50(4)
  Deepfake i opublikowane teksty (podmiot wdrażający)

  Podmioty wdrażające system generujący lub przetwarzający obrazy, treści dźwiękowe lub wideo stanowiące deepfake muszą ujawnić, że treści te zostały sztucznie wygenerowane lub zmanipulowane. To samo dotyczy tekstu publikowanego w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, chyba że tekst został poddany weryfikacji przez człowieka lub kontroli redakcyjnej, a odpowiedzialność redakcyjną ponosi osoba. W przypadku utworu o wyraźnie artystycznym, twórczym, satyrycznym lub fikcyjnym charakterze obowiązek ogranicza się do ujawnienia istnienia wygenerowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania ani korzystania z utworu.

• art. 50(5)
  Jak i kiedy informować

  Informacje podaje się w jasny i wyraźny sposób najpóźniej przy pierwszym kontakcie lub pierwszym narażeniu, a muszą być zgodne z mającymi zastosowanie wymogami dostępności (art. 50 ust. 5).

Liczy się to, co system robi, a nie w którym załączniku się znajduje.

• „Fintech” nie jest kategorią rozporządzenia

  Rozporządzenie nie zna kategorii „fintech”. Art. 50 nie zależy od sektora ani załącznika: dotyczy tego, co system robi, niezależnie od tego, czy jest systemem wysokiego ryzyka.

• Systemy wysokiego ryzyka mają oba zestawy obowiązków

  System scoringu kredytowego, który jest systemem wysokiego ryzyka na podstawie załącznika III pkt 5 lit. b) i ma też interfejs czatu, podlega obowiązkom z art. 50 od 2 sierpnia 2026 i obowiązkom z rozdziału III od 2 grudnia 2027. Art. 50 nie wpływa na wymogi rozdziału III (art. 50 ust. 6).

• Przykłady według ustępów

  Przykład: czatbot obsługi klienta lub interfejs doradczy w aplikacji bankowej wchodzi w bezpośrednią interakcję z osobami fizycznymi (art. 50 ust. 1). Przykład: system, który redaguje pisma lub raporty dla klientów, generuje tekst syntetyczny i podlega obowiązkowi oznaczania spoczywającemu na dostawcy (art. 50 ust. 2); bank, który tylko z niego korzysta, jest podmiotem wdrażającym, a jego obowiązki wynikają, o ile mają zastosowanie, z art. 50 ust. 3 i 4, a nie z ust. 2.

• Wnioskowanie o emocjach w pracy i w edukacji

  Art. 5 ust. 1 lit. f) zakazuje systemów AI wnioskujących o emocjach osoby fizycznej w miejscu pracy i w instytucjach edukacyjnych, z wyjątkiem sytuacji, gdy system ma być wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa. Przykład: wnioskowanie o emocjach pracowników call center podczas pracy mieści się w zakazie. Obowiązek informowania osób narażonych z art. 50 ust. 3 jest odrębny.

• Terminy

  Art. 113 stosuje rozporządzenie od 2 sierpnia 2026; rozdział IV zawierający art. 50 nie należy do przepisów, dla których lit. a)–d) podają inną datę. Dostawcy systemów generujących treści syntetyczne, wprowadzonych do obrotu przed tą datą, muszą podjąć niezbędne kroki, aby spełnić art. 50 ust. 2 do 2 grudnia 2026 (art. 111 ust. 4). Rozporządzenie nie przewiduje okresu przejściowego dla art. 50 ust. 1, 3 i 4.

• Kary

  Naruszenie obowiązków przejrzystości dostawców i podmiotów wdrażających z art. 50 może skutkować karą pieniężną do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4 lit. g)). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). Ten sam pułap dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy określające, w jakim zakresie kary administracyjne mogą być nakładane na organy i podmioty publiczne ustanowione w tym państwie członkowskim (art. 99 ust. 8).

• Granice zakresu stosowania rozporządzenia

  Rozporządzenie stosuje się do dostawców wprowadzających do obrotu lub oddających do użytku systemy AI w Unii albo wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, bez względu na miejsce ich siedziby (art. 2 ust. 1 lit. a)), oraz do dostawców i podmiotów wdrażających z siedzibą w państwie trzecim, jeżeli wyniki działania systemu AI są wykorzystywane w Unii (lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres prawa Unii i nie wpływa na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego; nie stosuje się go też do systemów AI wykorzystywanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3).

• Brak reguły dla fintechu i formatu oznaczenia

  Art. 50 nie zawiera reguły specyficznej dla fintechu. Nie wskazuje brzmienia ani ikony; obowiązek oznaczania wymaga formatu nadającego się do odczytu maszynowego i wykrywalności, z uwzględnieniem powszechnie uznanego stanu wiedzy technicznej, który może znajdować odzwierciedlenie w odpowiednich normach technicznych (art. 50 ust. 2). Komisja opracowuje wytyczne dotyczące art. 50 (art. 96 ust. 1 lit. d)).

• Kodeksy praktyk

  Komisja zachęca do opracowywania kodeksów postępowania dotyczących wykrywania, oznaczania i etykietowania treści wygenerowanych lub zmanipulowanych sztucznie i je ułatwia oraz ocenia, czy przestrzeganie kodeksu wystarcza do zapewnienia zgodności z art. 50 ust. 2 i 4. Jeżeli uzna kodeks za niewystarczający, może przyjąć akt wykonawczy określający wspólne zasady (art. 50 ust. 7). Artykuł nie czyni ich przestrzegania obowiązkowym.

• Weryfikacja przez człowieka

  Wyjątek dla weryfikacji przez człowieka lub kontroli redakcyjnej znajduje się w art. 50 ust. 4, dla opublikowanego tekstu. Art. 50 ust. 2 go nie zna; jego wyjątki to wspomaganie standardowej edycji, brak istotnej zmiany danych wejściowych lub ich semantyki oraz dozwolenie prawem do celów karnych.

• Brak obowiązku wykrywania deepfake’ów

  Art. 50 nie zawiera obowiązku wykrywania przez bank deepfake’ów stworzonych przez inne podmioty. Dostawcy muszą zapewnić wykrywalność swoich wyników (art. 50 ust. 2); podmioty wdrażające, które generują lub manipulują deepfake’iem, muszą to ujawnić (art. 50 ust. 4).

• Obowiązki informacyjne w prawie finansowym i konsumenckim

  Art. 50 nie wpływa na inne obowiązki w zakresie przejrzystości podmiotów wdrażających wynikające z prawa Unii lub prawa krajowego (art. 50 ust. 6). Czy prawo finansowe lub konsumenckie wymaga dalszych informacji dla klientów, rozporządzenie nie rozstrzyga.

• Artykuł 50: obowiązki przejrzystości i ujawniania

  Art. 50 dla wszystkich sektorów: cztery obowiązki, wyjątki, terminy i kary.

• Rozporządzenie AI fintech: zgodność

  Przegląd fintechu: jak rozporządzenie obejmuje AI w kredytach i ubezpieczeniach.

• Art. 53 w fintechu: obowiązki dostawców modeli AI ogólnego przeznaczenia

  AI w fintechu i art. 53: dostawcy modeli, dokumentacja, prawo autorskie i streszczenie danych treningowych.

• Zakazane praktyki AI: artykuł 5 rozporządzenia AI

  Zakazane praktyki, w tym wnioskowanie o emocjach w pracy i w edukacji.