Skip to main content

Czy unijny akt o AI dotyczy firm z USA?

Analiza eksterytorialnego zakresu unijnego aktu o AI i co firmy SaaS z USA muszą wiedzieć o swoich obowiązkach w zakresie zgodności.

Autor: Scanara

Najważniejsze wnioski

  1. 1.Tak, jeśli są Państwo dostawcą i wprowadzają Państwo do obrotu na rynku UE systemy AI lub modele AI ogólnego przeznaczenia. Miejsce siedziby nie ma znaczenia (art. 2 ust. 1 lit. a). Objęci są też dostawcy, którzy oddają do użytku systemy AI w Unii (art. 2 ust. 1 lit. a).
  2. 2.Dotyczy też sytuacji, gdy wyniki działania systemu z państwa trzeciego są wykorzystywane w Unii (art. 2 ust. 1 lit. c).
  3. 3.Kary sięgają 35 mln EUR lub 7 % światowego rocznego obrotu za zakazane praktyki, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3).
  4. 4.Dostawcy systemów wysokiego ryzyka spoza UE muszą ustanowić upoważnionego przedstawiciela w UE, który działa w ich imieniu wobec organów (art. 22 ust. 1). Obowiązek ma zastosowanie od 2 grudnia 2027 r. do systemów z załącznika III. Do systemów z załącznika I ma zastosowanie od 2 sierpnia 2028 r. (art. 113 akapit trzeci lit. c).

Art. 5 rozporządzenia (UE) 2024/1689 zakazuje praktyk AI, takich jak scoring społeczny (art. 5 ust. 1 lit. c). Zakazy mają zastosowanie od 2 lutego 2025 r. Obowiązki dotyczące modeli AI ogólnego przeznaczenia mają zastosowanie od 2 sierpnia 2025 r. Takie modele potrafią kompetentnie wykonywać szeroki zakres różnych zadań (art. 3 pkt 63). Obowiązki w zakresie przejrzystości z art. 50 mają zastosowanie od 2 sierpnia 2026 r. Obejmują informowanie, że ktoś ma do czynienia z AI, i oznaczanie treści generowanych przez AI. Dla art. 50 ust. 2 obowiązuje późniejszy termin dla systemów już w obrocie: 2 grudnia 2026 r. (art. 111 ust. 4). Dostawca z USA bez oferty w UE i bez wykorzystania wyników działania w Unii nie podlega rozporządzeniu (art. 2 ust. 1 lit. a i c).

Następny krok: sporządzić listę systemów AI sprzedawanych klientom z UE i sprawdzić każdy względem art. 2 (zasady zakresu stosowania). Załącznik III to lista zastosowań wysokiego ryzyka, np. rekrutacja lub scoring kredytowy. Przepisy o wysokim ryzyku to rozdział III sekcje 1–3 (z wyjątkiem art. 6 ust. 5). Mają zastosowanie od 2 grudnia 2027 r. do systemów z załącznika III. Do systemów z załącznika I mają zastosowanie od 2 sierpnia 2028 r. (art. 113 akapit trzeci lit. c). Załącznik I obejmuje produkty objęte unijnymi przepisami o bezpieczeństwie. Załącznik I ma sekcję B dotyczącą innych unijnych przepisów harmonizacyjnych (art. 2 ust. 2). Do systemów AI wysokiego ryzyka związanych z takimi produktami mają zastosowanie tylko art. 6 ust. 1, art. 60a i art. 102–112. Art. 57–59 mają zastosowanie tylko w zakresie, w jakim te przepisy uwzględniają wymogi wysokiego ryzyka.

Art. 2: kto jest objęty zakresem

Art. 2 ust. 1 wymienia siedem grup, w tym te trzy:

Dostawcy wprowadzający systemy AI do obrotu na rynku UE (art. 2 ust. 1 lit. a)

Dostawca opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu na rynku UE lub oddaje do użytku pod własną nazwą (art. 3 pkt 3). Obejmuje to dostarczanie odpłatne i nieodpłatne. Dotyczy to Państwa niezależnie od tego, czy mają Państwo siedzibę w Unii.

Podmioty wdrażające w Unii (art. 2 ust. 1 lit. b)

Firmy z UE, które używają Państwa systemu AI, są podmiotami wdrażającymi z własnymi obowiązkami. Podmioty wdrażające systemy wysokiego ryzyka potrzebują informacji, które Państwo przekazują zgodnie z art. 13, aby spełnić swoje obowiązki z art. 26.

Dostawcy i podmioty wdrażające z państw trzecich, których wyniki działania systemu są wykorzystywane w Unii (art. 2 ust. 1 lit. c)

Załóżmy, że mają Państwo siedzibę poza UE, a wyniki działania Państwa systemu AI są wykorzystywane w Unii. Wtedy rozporządzenie ma do Państwa zastosowanie jako do dostawcy lub podmiotu wdrażającego.

Pięć scenariuszy pokazuje, gdzie rozporządzenie ma zastosowanie

Podlegają Państwo rozporządzeniu, jeśli sprzedają Państwo system AI w UE lub jego wyniki działania są wykorzystywane w Unii (art. 2 ust. 1 lit. a i c).

ScenariuszObjęte zakresem?Rola
SaaS z funkcjami AI sprzedawane firmom z UETakDostawca (art. 2 ust. 1 lit. a)
API używane przez integratorów lub programistów w UETakDostawca systemu lub modelu, który Państwo oferują (art. 2 ust. 1 lit. a)
Model AI ogólnego przeznaczenia, który inni włączają do produktów oferowanych w UETakDostawca modelu AI ogólnego przeznaczenia (art. 2 ust. 1 lit. a; obowiązki w art. 53–55)
Narzędzie wewnętrzne używane wyłącznie przez pracowników w USA, bez wyników działania wykorzystywanych w UniiNieNie dotyczy: nie jest spełniona ani lit. a, ani lit. c w art. 2 ust. 1
Produkt bez klientów w UE i bez wyników działania wykorzystywanych w UniiNieNie dotyczy: nie jest spełniona ani lit. a, ani lit. c w art. 2 ust. 1

Państwa systemy AI należą do czterech grup o różnych obowiązkach

Należy sprawdzić każdy system względem art. 5 (zakazane praktyki), załącznika III (zastosowania wysokiego ryzyka) i art. 50 (przejrzystość).

Zakazane praktyki (art. 5)

Zakazane są praktyki takie jak scoring społeczny (art. 5 ust. 1 lit. c). Zakazane są też techniki manipulacyjne, które istotnie zniekształcają zachowanie i powodują lub mogą powodować znaczną szkodę (art. 5 ust. 1 lit. a). Zakaz obowiązuje od 2 lutego 2025 r. Od 2 grudnia 2026 r. zakazane są dwie kolejne praktyki (art. 113 akapit trzeci lit. a). Pierwsza dotyczy systemów AI, które generują lub manipulują realistycznymi obrazami, filmami, nagraniami audio lub podobnym materiałem. Materiał przedstawia intymne części ciała możliwej do zidentyfikowania osoby fizycznej lub jej jednoznacznie seksualne zachowania. Zakaz obowiązuje bez dobrowolnej, konkretnej, świadomej, jednoznacznej i wyraźnej zgody tej osoby na takie generowanie lub manipulowanie (art. 5 ust. 1 lit. ba). Druga to generowanie lub manipulowanie materiałami przedstawiającymi seksualne wykorzystywanie dzieci w rozumieniu dyrektywy 2011/93/UE (art. 5 ust. 1 lit. bb). Drugi zakaz nie ma zastosowania, gdy prawo krajowe przewiduje obronę „bez prawa” (art. 5 ust. 1 lit. bb). Art. 5 ust. 1a ogranicza oba zakazy. Dostawca podlega zakazowi tylko wtedy, gdy generowanie tego materiału jest przewidzianym zastosowaniem systemu. Podlega mu też wtedy, gdy materiał jest dającym się racjonalnie przewidzieć i powtarzalnym wynikiem, bez istotnej modyfikacji technicznej, a system nie ma racjonalnych i odpowiednich zabezpieczeń. Podmiot stosujący podlega zakazowi tylko wtedy, gdy używa systemu w tym celu.

Systemy wysokiego ryzyka (art. 6, załącznik III)

Systemy używane w takich obszarach jak rekrutacja, scoring kredytowy, edukacja, ściganie przestępstw i infrastruktura krytyczna. Dostawcy muszą spełnić wymogi dotyczące zarządzania ryzykiem, zarządzania danymi, dokumentacji technicznej, rejestrowania zdarzeń, przejrzystości, nadzoru ze strony człowieka, dokładności, solidności i cyberbezpieczeństwa (art. 8–15).

Obowiązki w zakresie przejrzystości (art. 50)

Chatboty, systemy generujące treści syntetyczne oraz deepfake. Deepfake to wygenerowany lub zmanipulowany przez AI obraz, nagranie audio lub wideo. Przypomina rzeczywiste osoby, przedmioty, miejsca, podmioty lub zdarzenia i fałszywie wydawałby się autentyczny (art. 3 pkt 60). Dostawcy muszą informować ludzi, że mają do czynienia z AI (art. 50 ust. 1), i oznaczać wygenerowane treści (art. 50 ust. 2). Podmioty stosujące muszą ujawniać deepfake (art. 50 ust. 4). Te obowiązki mają zastosowanie od 2 sierpnia 2026 r. W przypadku systemów wprowadzonych do obrotu przed tą datą termin dla art. 50 ust. 2 upływa 2 grudnia 2026 r. Dostawcy muszą do tego czasu podjąć niezbędne kroki w celu zapewnienia zgodności z art. 50 ust. 2 (art. 111 ust. 4).

Inne systemy AI

Wymogi art. 8–15 mają zastosowanie do systemów wysokiego ryzyka (art. 8 ust. 1). W przypadku innych systemów należy sprawdzić zakazy z art. 5, działania na rzecz kompetencji w zakresie AI (art. 4) i art. 50, tam gdzie ma zastosowanie. Kompetencje w zakresie AI to umiejętności, wiedza i zrozumienie pozwalające na świadome korzystanie z systemów AI (art. 3 pkt 56). System z załącznika III, który jego dostawca uznaje za niebędący systemem wysokiego ryzyka, to przypadek szczególny: wymaga on udokumentowanej oceny (art. 6 ust. 4). Urząd ds. AI i państwa członkowskie zachęcają do stosowania dobrowolnych kodeksów postępowania (art. 95).

Dostawcy modeli AI ogólnego przeznaczenia muszą przestrzegać art. 53–55

Jeśli dostarczają Państwo model AI ogólnego przeznaczenia, mają do Państwa zastosowanie art. 53 i 54, a także art. 55, jeśli model stwarza ryzyko systemowe. Ryzyko systemowe to ryzyko właściwe dla zdolności o dużym oddziaływaniu modeli AI ogólnego przeznaczenia (art. 3 pkt 65). Te obowiązki obowiązują od 2 sierpnia 2025 r. W przypadku modeli wprowadzonych do obrotu przed tą datą termin upływa 2 sierpnia 2027 r. (art. 111 ust. 3). Obowiązki obejmują:

  • Dokumentację techniczną modelu oraz informacje dla dostawców, którzy go integrują (art. 53 ust. 1 lit. a i b). Te dwa obowiązki nie mają zastosowania do modeli na wolnej licencji otwartego oprogramowania, która zezwala na dostęp, wykorzystanie, modyfikację i dystrybucję. Wyjątek wymaga, by parametry (w tym wagi) oraz informacje o architekturze i wykorzystaniu były publicznie dostępne. Nie obowiązuje, jeśli model stwarza ryzyko systemowe (art. 53 ust. 2)
  • Politykę zgodności z unijnym prawem autorskim oraz publiczne streszczenie treści użytych do trenowania (art. 53 ust. 1 lit. c i d)
  • Upoważnionego przedstawiciela w Unii, jeśli mają Państwo siedzibę w państwie trzecim (art. 54; modele open source bez ryzyka systemowego są wyłączone na podstawie art. 54 ust. 6)
  • Dla modeli z ryzykiem systemowym: ocenę modelu, w tym testy typu adversarial, ocenę i ograniczanie ryzyka systemowego, zgłaszanie poważnych incydentów i ochronę cyberbezpieczeństwa (art. 55)

Czy potrzebny jest upoważniony przedstawiciel w UE?

Tylko jeśli dostarczają Państwo system AI wysokiego ryzyka (art. 22) lub model AI ogólnego przeznaczenia (art. 54). Zanim udostępnią Państwo system wysokiego ryzyka w Unii, muszą Państwo ustanowić tam przedstawiciela w drodze pisemnego pełnomocnictwa (art. 22 ust. 1). W pisemnym pełnomocnictwie dostawca upoważnia przedstawiciela do działania w jego imieniu (art. 3 pkt 5). Pełnomocnictwo obejmuje przechowywanie dokumentacji technicznej przez 10 lat oraz przekazywanie organom informacji na żądanie (art. 22 ust. 3).

Obowiązek z art. 22 ma zastosowanie od 2 grudnia 2027 r. w przypadku systemów z załącznika III (art. 113 akapit trzeci lit. c). W przypadku systemów z załącznika I obowiązuje od 2 sierpnia 2028 r. Sekcja B załącznika I stanowi wyjątek (art. 2 ust. 2). Obowiązek z art. 54 dla modeli AI ogólnego przeznaczenia ma zastosowanie od 2 sierpnia 2025 r. (art. 113 akapit trzeci lit. b). RODO zawiera porównywalny wymóg dotyczący przedstawicieli administratorów i podmiotów przetwarzających spoza UE (art. 27 RODO).

Najważniejsze terminy, od których obowiązują poszczególne obowiązki

Obowiązuje

2 lutego 2025 r.: zakazane praktyki (art. 5) i kompetencje w zakresie AI

Obowiązuje

2 sierpnia 2025 r.: obowiązki dostawców modeli AI ogólnego przeznaczenia

Obowiązuje

2 sierpnia 2026 r.: ogólna data rozpoczęcia stosowania, w tym obowiązki w zakresie przejrzystości z art. 50 i kary z art. 101 dla dostawców modeli AI ogólnego przeznaczenia

Najbliższy termin

2 grudnia 2026 r.: art. 5 ust. 1 lit. ba i bb oraz ust. 1a i 1b (jednoznacznie seksualne obrazy bez zgody; materiały przedstawiające seksualne wykorzystywanie dzieci); art. 50 ust. 2 dla systemów już wprowadzonych do obrotu

Później

2 grudnia 2027 r.: rozdział III sekcje 1–3 (z wyjątkiem art. 6 ust. 5) dla systemów z załącznika III

Później

2 sierpnia 2028 r.: rozdział III sekcje 1–3 (z wyjątkiem art. 6 ust. 5) dla systemów z załącznika I

Cztery kroki prowadzą firmę z USA od inwentaryzacji do upoważnionego przedstawiciela w UE

1

Inwentaryzacja systemów AI

Wypisać systemy AI, które wprowadzane są do obrotu na rynku UE lub których wyniki działania są wykorzystywane w Unii (art. 2 ust. 1).

2

Klasyfikacja ryzyka

Sprawdzić każdy system względem art. 5 i załącznika III. Załącznik III wymienia zastosowania, np. rekrutację i scoring kredytowy. Systemy wymienione w załączniku III są systemami wysokiego ryzyka (art. 6 ust. 2). Art. 6 ust. 3 określa warunki, w których taki system nie jest systemem wysokiego ryzyka.

3

Przygotowanie dokumentacji technicznej

W przypadku systemów wysokiego ryzyka załącznik IV wymienia dziewięć punktów dokumentacji technicznej. Są to: ogólny opis, proces rozwoju, monitorowanie i kontrola, wskaźniki skuteczności, zarządzanie ryzykiem, zmiany w cyklu życia, zastosowane normy, deklaracja zgodności i system monitorowania po wprowadzeniu do obrotu. Dokumentację należy aktualizować (art. 11 ust. 1).

4

Ustanowienie upoważnionego przedstawiciela w UE

Wymagane przed udostępnieniem systemu wysokiego ryzyka w Unii, jeśli mają Państwo siedzibę w państwie trzecim (art. 22).

RODO obejmuje też organizacje spoza UE, ale jego zasada zakresu jest inna

RODO obejmuje też organizacje spoza UE, które oferują towary lub usługi osobom w Unii albo monitorują ich zachowanie (art. 3 ust. 2 RODO). Zasada zakresu w akcie o AI jest inna: opiera się na wprowadzeniu do obrotu i wykorzystaniu wyników działania systemu w Unii (art. 2 ust. 1).

Powiązane lektury

Źródła i odniesienia

Często zadawane pytania

Czy unijny akt o AI dotyczy firm z USA?

Tak, jeśli wprowadzają Państwo system AI lub model AI ogólnego przeznaczenia do obrotu na rynku UE albo jeśli wyniki działania Państwa systemu AI są wykorzystywane w Unii. Siedziba w USA nie ma znaczenia (art. 2 ust. 1 lit. a i c). Nadal obowiązują wyłączenia z art. 2. Należą do nich zastosowania wojskowe, obronne i dotyczące bezpieczeństwa narodowego (art. 2 ust. 3). Wyłączone są też systemy AI opracowane wyłącznie do celów badań naukowych (art. 2 ust. 6).

Czym jest efekt brukselski w regulacji AI?

Anu Bradford ukuła termin efekt brukselski na określenie przestrzegania norm unijnych przez przedsiębiorstwa międzynarodowe w całej ich działalności na świecie (źródło: Columbia Law School). Zasada zakresu stosowania aktu o AI (art. 2 ust. 1) obejmuje już dostawców spoza UE.

Czy unijny akt o AI dotyczy produktów B2B SaaS?

Tak, jeśli produkt zawiera system AI i wprowadzają go Państwo do obrotu na rynku UE lub jego wyniki działania są wykorzystywane w Unii (art. 2 ust. 1). Są Państwo wtedy dostawcą. Obowiązki dostawcy systemów wysokiego ryzyka obejmują system zarządzania ryzykiem (art. 9), dokumentację techniczną (art. 11) i ocenę zgodności (art. 16 lit. f). Mają zastosowanie od 2 grudnia 2027 r. dla systemów z załącznika III (art. 113 akapit trzeci lit. c). Ocena zgodności to proces wykazywania, że spełnione są wymogi z rozdziału III sekcji 2 (art. 3 pkt 20). Systemy, które nie są wysokiego ryzyka, nie podlegają obowiązkom z art. 9–15. Art. 4 i art. 50 nadal mogą mieć zastosowanie.

Co się dzieje, jeśli firma z USA zignoruje unijny akt o AI?

Kary sięgają 35 mln EUR lub 7 % światowego rocznego obrotu, zależnie od tego, która kwota jest wyższa, za zakazane praktyki (art. 99 ust. 3). Naruszenia obowiązków dostawców (art. 16), podmiotów wdrażających (art. 26) oraz art. 50 podlegają karom. Sięgają one 15 mln EUR lub 3 % światowego rocznego obrotu. Obowiązuje wyższa kwota (art. 99 ust. 4). MŚP to mikro-, małe lub średnie przedsiębiorstwa (art. 3 pkt 14a). MŚP, w tym przedsiębiorstwa typu start-up, płacą niższą z kwoty wynikającej z procentu i kwoty stałej (art. 99 ust. 6). Małe spółki o średniej kapitalizacji (art. 3 pkt 14b) również płacą niższą kwotę. Dotyczy to kar z art. 99 ust. 4 i 5 (art. 99 ust. 6a). Gdy system stwarza ryzyko i okazuje się niezgodny, organy żądają działań naprawczych, wycofania z rynku lub wycofania od użytkowników (art. 79). Przepisy o wysokim ryzyku z rozdziału III sekcji 1–3 (z wyjątkiem art. 6 ust. 5) mają zastosowanie od 2 grudnia 2027 r. do systemów z załącznika III. Do systemów z załącznika I mają zastosowanie od 2 sierpnia 2028 r. (art. 113 akapit trzeci lit. c). Sekcja B załącznika I stanowi wyjątek (art. 2 ust. 2). Mają tam zastosowanie tylko art. 6 ust. 1, art. 60a (testowanie w warunkach rzeczywistych) i art. 102–112 (przepisy końcowe). Art. 57–59 (piaskownice regulacyjne w zakresie AI) mają zastosowanie tylko w zakresie, w jakim te przepisy uwzględniają wymogi wysokiego ryzyka.

Czy firma z USA potrzebuje upoważnionego przedstawiciela w UE na potrzeby aktu o AI?

Tylko w przypadku systemów AI wysokiego ryzyka (art. 22) i modeli AI ogólnego przeznaczenia (art. 54; modele open source bez ryzyka systemowego są wyłączone na podstawie art. 54 ust. 6). Dostawca z siedzibą w państwie trzecim ustanawia przedstawiciela w Unii w drodze pisemnego pełnomocnictwa, zanim udostępni system lub model. Przedstawiciel przechowuje dokumenty i przekazuje organom informacje na żądanie (art. 22 ust. 3).

Scanara przygotowuje dowody na podstawie Państwa repozytoriów

Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.