Unijny akt o AI dla firm SaaS
Co dostawcy SaaS z funkcjami AI muszą wiedzieć o obowiązkach dostawcy, klasyfikacji ryzyka i modelu wspólnej odpowiedzialności między dostawcą a operatorem.
Najważniejsze wnioski
- 1.Firma SaaS jest dostawcą każdego systemu AI, który opracowuje lub zleca opracowanie i oferuje pod własną nazwą (art. 3 pkt 3).
- 2.Państwa obowiązki zależą od klasy ryzyka. Zakazy praktyk z art. 5 mają zastosowanie od 2 lutego 2025 r. Dwa kolejne zakazy, w art. 5 ust. 1 lit. ba i bb, mają zastosowanie od 2 grudnia 2026 r. Obie daty wynikają z art. 113 akapit trzeci lit. a.
- 3.Systemy wysokiego ryzyka (załączniki III i I) wymagają zarządzania ryzykiem, dokumentacji i rejestrowania zdarzeń (art. 9, 11 i 12). Sekcja B załącznika I stanowi wyjątek (art. 2 ust. 2). Chatboty i treści generowane wymagają środków przejrzystości (art. 50).
- 4.Państwa klienci biznesowi są podmiotami wdrażającymi, gdy używają Państwa systemu AI pod własną kontrolą (art. 3 pkt 4). Podmioty wdrażające systemy wysokiego ryzyka mają własne obowiązki (art. 26).
- 5.Model strony trzeciej nie zmienia Państwa roli jako dostawcy własnego systemu.
Rozporządzenie ma zastosowanie do dostawców, którzy wprowadzają systemy AI do obrotu na rynku UE (art. 2 ust. 1 lit. a). Obejmuje też dostawców, którzy oddają je tam do użytku. Dostawcy i podmioty wdrażające z państw trzecich są objęci, jeśli wyniki działania ich systemu są wykorzystywane w Unii (art. 2 ust. 1 lit. c). Rozporządzenie nie obejmuje zastosowań wojskowych, obronnych i dotyczących bezpieczeństwa narodowego (art. 2 ust. 3).
Następny krok: sporządzić listę systemów AI w produkcie i sprawdzić każdy względem art. 5 i załącznika III. Załącznik III to lista zastosowań wysokiego ryzyka (art. 6 ust. 2), np. rekrutacja lub scoring kredytowy.
Przepisy o wysokim ryzyku (art. 6–27, z wyjątkiem art. 6 ust. 5) mają zastosowanie od 2 grudnia 2027 r. do systemów z załącznika III. Do systemów z załącznika I mają zastosowanie od 2 sierpnia 2028 r. (art. 113 akapit trzeci lit. c). Załącznik I obejmuje produkty objęte unijnymi przepisami o bezpieczeństwie. Załącznik I ma sekcję B dotyczącą innych unijnych przepisów harmonizacyjnych (art. 2 ust. 2). Do systemów AI wysokiego ryzyka związanych z takimi produktami mają zastosowanie tylko art. 6 ust. 1, art. 60a i art. 102–112. Art. 57–59 mają zastosowanie tylko w zakresie, w jakim te przepisy uwzględniają wymogi wysokiego ryzyka. Obowiązki w zakresie przejrzystości z art. 50 mają zastosowanie od 2 sierpnia 2026 r. (art. 113). Dla art. 50 ust. 2 obowiązuje późniejszy termin dla systemów już w obrocie: 2 grudnia 2026 r. (art. 111 ust. 4).
Kary za zakazane praktyki sięgają 35 mln EUR lub 7 % światowego rocznego obrotu, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3). Art. 99 ust. 4 przewiduje kary za naruszenia obowiązków dostawców (art. 16) i podmiotów wdrażających (art. 26). Obejmuje też art. 25 ust. 2 i 4 oraz art. 50. Sięgają one 15 mln EUR lub 3 % światowego rocznego obrotu, zależnie od tego, która kwota jest wyższa. MŚP to mikro-, małe lub średnie przedsiębiorstwa (art. 3 pkt 14a). MŚP, w tym przedsiębiorstwa typu start-up, płacą niższą z kwoty wynikającej z procentu i kwoty stałej (art. 99 ust. 6).
Dostawca czy podmiot wdrażający: która rola ma zastosowanie
Rozporządzenie rozróżnia dwie role (art. 3 pkt 3 i 4). Dostawcy opracowują systemy AI i wprowadzają je do obrotu. Podmioty wdrażające (w rozporządzeniu: podmioty stosujące) używają ich pod własną kontrolą.
Są Państwo dostawcą, jeśli...
- opracowują Państwo system AI lub zlecają jego opracowanie i wprowadzają go do obrotu lub oddają do użytku pod własną nazwą lub znakiem towarowym (art. 3 pkt 3)
- włączają Państwo model strony trzeciej do swojego produktu i oferują wynik pod swoją nazwą
- zmieniają Państwo przewidziane zastosowanie systemu AI tak, że staje się on systemem wysokiego ryzyka (art. 25 ust. 1)
- umieszczają Państwo swoją nazwę na systemie wysokiego ryzyka, który jest już na rynku (art. 25 ust. 1)
Państwa klienci są podmiotami wdrażającymi, jeśli...
- używają Państwa systemu AI pod własną kontrolą, z wyjątkiem osobistej działalności o charakterze nieprofesjonalnym (art. 3 pkt 4)
- zmieniają przewidziane zastosowanie Państwa systemu tak, że staje się ono systemem wysokiego ryzyka: wtedy są uznawani za dostawcę (art. 25 ust. 1)
Załącznik III obejmuje pięć z tych ośmiu kategorii SaaS
| Kategoria SaaS | Przykłady systemów AI | Gdzie rozporządzenie je umieszcza |
|---|---|---|
| HR i rekrutacja | Filtrowanie zgłoszeń, ocena kandydatów, monitorowanie i ocena wyników pracy | Załącznik III pkt 4: wysokie ryzyko |
| Kredyty i pożyczki | Ocena zdolności kredytowej osób fizycznych, scoring kredytowy | Załącznik III pkt 5 lit. b: wysokie ryzyko; systemy używane do wykrywania oszustw finansowych są wyłączone |
| Ubezpieczenia | Ocena ryzyka i ustalanie cen w ubezpieczeniach na życie i zdrowotnych osób fizycznych | Załącznik III pkt 5 lit. c: wysokie ryzyko |
| Edukacja | Decyzje o przyjęciu, ocena wyników nauczania, monitorowanie zakazanych zachowań podczas testów | Załącznik III pkt 3: wysokie ryzyko |
| Opieka zdrowotna | Segregacja zgłoszeń alarmowych i pacjentów w nagłych przypadkach | Załącznik III pkt 5 lit. d: wysokie ryzyko. Oprogramowanie diagnostyczne nie jest wymienione w załączniku III. Jeśli jest wyrobem medycznym podlegającym ocenie zgodności przez stronę trzecią, może być systemem wysokiego ryzyka na podstawie załącznika I sekcji A (art. 6 ust. 1) |
| Obsługa klienta | Chatboty i automatyczne odpowiedzi | Art. 50 ust. 1: ludzie muszą wiedzieć, że mają do czynienia z AI; sam w sobie brak punktu w załączniku III |
| Marketing i treści | Generowany tekst, obrazy, dźwięk lub wideo | Art. 50 ust. 2 i 4: obowiązki oznaczania i ujawniania; sam w sobie brak punktu w załączniku III |
| Narzędzia dla programistów i analityka | Uzupełnianie kodu, prognozowanie, wykrywanie anomalii | Niewymienione w załączniku III; należy sprawdzić przewidziane zastosowanie |
System z załącznika III nie jest systemem wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka dla zdrowia, bezpieczeństwa ani praw podstawowych (art. 6 ust. 3). Musi też spełniać jeden z warunków z lit. a–d. Jest nim zawsze, jeśli dokonuje profilowania osób fizycznych. Dostawca, który powołuje się na art. 6 ust. 3, dokumentuje ocenę i rejestruje system (art. 6 ust. 4 i art. 49 ust. 2).
Dostawcy mają różne obowiązki w zależności od klasy ryzyka
Systemy AI wysokiego ryzyka (art. 9–15 i 43)
- System zarządzania ryzykiem (art. 9): Ciągły, iteracyjny proces w całym cyklu życia: identyfikowanie, szacowanie i ograniczanie ryzyka, z regularnym przeglądem.
- Dane i zarządzanie danymi (art. 10): Dane treningowe, walidacyjne i testowe spełniają kryteria jakości i podlegają praktykom zarządzania danymi, które obejmują badanie pod kątem możliwych uprzedzeń.
- Dokumentacja techniczna (art. 11, załącznik IV): Dostawca sporządza ją przed wprowadzeniem systemu do obrotu i aktualizuje. Załącznik IV wymienia dziewięć punktów.
- Rejestrowanie zdarzeń (art. 12): System automatycznie rejestruje zdarzenia (rejestry zdarzeń) w całym cyklu życia.
- Informacje dla podmiotów stosujących (art. 13): System jest wystarczająco przejrzysty, by podmioty wdrażające mogły interpretować jego wyniki i właściwie go używać. Towarzyszy mu instrukcja obsługi.
- Nadzór ze strony człowieka (art. 14): System jest zaprojektowany tak, aby osoby fizyczne mogły skutecznie go nadzorować w czasie używania.
- Dokładność, solidność i cyberbezpieczeństwo (art. 15): Odpowiednie poziomy w całym cyklu życia, ze wskaźnikami dokładności zadeklarowanymi w instrukcji obsługi.
- Ocena zgodności (art. 43): Proces wykazywania, że spełnione są wymogi z rozdziału III sekcji 2 (art. 3 pkt 20). Dostawca przeprowadza go przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku (art. 16 lit. f).
Systemy z obowiązkami w zakresie przejrzystości (art. 50)
- Przejrzystość (art. 50): Systemy wchodzące w interakcję z ludźmi muszą informować ich, że mają do czynienia z AI, chyba że jest to oczywiste. Dostawcy systemów generujących syntetyczny dźwięk, obrazy, wideo lub tekst oznaczają wyniki w formacie nadającym się do odczytu maszynowego. Podmioty wdrażające systemy rozpoznawania emocji lub kategoryzacji biometrycznej informują osoby, których to dotyczy. Podmioty wdrażające deepfake ujawniają je. Deepfake to wygenerowany lub zmanipulowany przez AI obraz, nagranie audio lub wideo. Przypomina rzeczywiste osoby, przedmioty, miejsca, podmioty lub zdarzenia i fałszywie wydawałby się autentyczny (art. 3 pkt 60).
Inne systemy AI nie mają obowiązków wysokiego ryzyka; art. 4, 5 i 50 mogą nadal mieć zastosowanie
- Wymogi art. 8–15 mają zastosowanie do systemów wysokiego ryzyka (art. 8 ust. 1). W przypadku innych systemów należy sprawdzić zakazy z art. 5, działania na rzecz kompetencji w zakresie AI (art. 4) i art. 50, tam gdzie ma zastosowanie. Kompetencje w zakresie AI to umiejętności, wiedza i zrozumienie pozwalające na świadome korzystanie z systemów AI (art. 3 pkt 56). System z załącznika III, który uznają Państwo za niebędący systemem wysokiego ryzyka, to przypadek szczególny: muszą Państwo udokumentować tę ocenę (art. 6 ust. 4). Zachęca się do stosowania dobrowolnych kodeksów postępowania (art. 95).
Wspólna odpowiedzialność: co Państwo przekazują podmiotom wdrażającym i co one robią
Co Państwo przekazują podmiotom wdrażającym
- Instrukcja obsługi (art. 13): Przewidziane zastosowanie, możliwości, ograniczenia, poziomy dokładności i wymagane środki nadzoru ze strony człowieka.
- Rejestrowanie zdarzeń: Państwa system rejestruje zdarzenia (art. 12). Tam, gdzie to istotne, instrukcja obsługi opisuje, jak podmioty wdrażające mogą gromadzić, przechowywać i interpretować rejestry (art. 13 ust. 3 lit. f).
- Informacje o skuteczności działania: Poziomy dokładności i odpowiednie wskaźniki dokładności, zadeklarowane w instrukcji obsługi (art. 15 ust. 3).
- Kanał zgłaszania poważnych incydentów: Podmioty wdrażające, które stwierdzą poważny incydent, muszą niezwłocznie poinformować dostawcę (art. 26 ust. 5). Państwa instrukcja obsługi podaje Państwa tożsamość i dane kontaktowe (art. 13 ust. 3 lit. a).
Co muszą zrobić podmioty wdrażające
- Używać systemu zgodnie z Państwa instrukcją (art. 26 ust. 1)
- Powierzyć nadzór ze strony człowieka kompetentnym osobom (art. 26 ust. 2)
- Monitorować działanie i zgłaszać ryzyka oraz poważne incydenty (art. 26 ust. 5)
- Przed pierwszym użyciem ocenić skutki dla praw podstawowych, jeśli ma zastosowanie art. 27
- Pracodawcy: poinformować przedstawicieli pracowników i zainteresowanych pracowników, że system będzie używany (art. 26 ust. 7)
- Podmioty wdrażające systemy z załącznika III, które podejmują decyzje dotyczące osób lub pomagają je podejmować: poinformować te osoby, że system jest używany (art. 26 ust. 11)
- Przechowywać rejestry pozostające pod ich kontrolą przez co najmniej sześć miesięcy, chyba że prawo Unii lub prawo krajowe stanowi inaczej (art. 26 ust. 6)
Model strony trzeciej nie zmienia Państwa roli dostawcy
Jeśli włączają Państwo model AI ogólnego przeznaczenia do systemu i oferują go pod swoją nazwą, są Państwo dostawcą tego systemu (art. 3 pkt 3). Model AI ogólnego przeznaczenia wykazuje znaczną ogólność i potrafi kompetentnie wykonywać szeroki zakres różnych zadań (art. 3 pkt 63).
Dostawca modelu ma własne obowiązki (art. 53). W przypadku systemu wysokiego ryzyka muszą Państwo jako dostawca zapewnić, aby spełniał wymogi dotyczące zarządzania ryzykiem (art. 9), dokumentacji (art. 11) i nadzoru ze strony człowieka (art. 14). System musi też przejść ocenę zgodności (art. 16 lit. a i f).
Należy poprosić dostawcę modelu o potrzebne informacje
Cztery kroki prowadzą od inwentaryzacji do oceny zgodności
Inwentaryzacja i klasyfikacja
Wypisać każdy system AI w produkcie, zapisać jego przewidziane zastosowanie i sprawdzić go względem art. 5 i załącznika III. Zacząć od systemów, których cel jest wymieniony w załączniku III.
Dokumentacja i inżynieria
Dla systemów AI wysokiego ryzyka: system zarządzania ryzykiem, dokumentacja techniczna, rejestrowanie zdarzeń, nadzór ze strony człowieka w projekcie i system zarządzania jakością (art. 17).
Informacje dla podmiotów wdrażających
Przygotować instrukcję obsługi, informacje o rejestrowaniu zdarzeń i kanał zgłaszania incydentów.
Ocena zgodności i przegląd
Zakończyć ocenę zgodności. Sporządzić unijną deklarację zgodności, czyli oświadczenie, że system spełnia wymogi art. 8–15 (art. 47). Zarejestrować system tam, gdzie jest to wymagane (art. 49). Ustanowić monitorowanie po wprowadzeniu do obrotu, czyli udokumentowany system gromadzący dane o działaniu systemu (art. 72).
Powiązane lektury
Źródła i odniesienia
- Regulation (EU) 2024/1689 — EU Artificial Intelligence Act — artykuły cytowane na tej stronie oraz załączniki I, III i IV.
- Regulation (EU) 2026/1744 — Digital Omnibus on AI — art. 2 ust. 2, art. 3 pkt 14a, art. 4, 5, 25 ust. 4, art. 99 ust. 4, art. 111 i 113 w brzmieniu zmienionym lub dodanym.
Często zadawane pytania
Czy unijny akt o AI dotyczy firm SaaS?
Tak, jeśli Państwa produkt zawiera system AI i wprowadzają go Państwo do obrotu na rynku UE lub jego wyniki działania są wykorzystywane w Unii (art. 2 ust. 1). Są Państwo dostawcą, jeśli oferują Państwo system AI pod własną nazwą. Obowiązki zależą od klasy ryzyka. Rozporządzenie przewiduje wyłączenia, na przykład dla zastosowań wojskowych, obronnych i dotyczących bezpieczeństwa narodowego (art. 2 ust. 3) oraz dla badań przed wprowadzeniem do obrotu (art. 2 ust. 8).
Jaka jest różnica między dostawcą AI a podmiotem wdrażającym AI?
Dostawca opracowuje system AI lub zleca jego opracowanie i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą (art. 3 pkt 3). Podmiot wdrażający używa systemu AI pod własną kontrolą, z wyjątkiem osobistej działalności o charakterze nieprofesjonalnym (art. 3 pkt 4). Firma SaaS, która oferuje system AI, jest dostawcą, a jej klienci biznesowi są podmiotami wdrażającymi. Firma, która używa systemu AI strony trzeciej tylko we własnej działalności, jest podmiotem wdrażającym.
Które systemy AI w SaaS uznaje się za wysokiego ryzyka?
Systemy używane do celu wymienionego w załączniku III. Przykłady: rekrutacja i selekcja, decyzje dotyczące stosunków pracy oraz przyjęcie i ocena wyników nauczania. Inne: scoring kredytowy osób fizycznych (ale nie wykrywanie oszustw), ocena ryzyka i ustalanie cen w ubezpieczeniach na życie i zdrowotnych oraz segregacja zgłoszeń alarmowych. Art. 6 ust. 3 może wyłączyć wymieniony system z klasy wysokiego ryzyka, gdy spełnione są jego warunki, ale nie wtedy, gdy system dokonuje profilowania osób fizycznych.
Jakie są kluczowe terminy dla firm SaaS?
Zakazane praktyki: od 2 lutego 2025 r. (art. 5 ust. 1 lit. ba i bb oraz ust. 1a i 1b: od 2 grudnia 2026 r.). Obowiązki dostawców modeli AI ogólnego przeznaczenia: od 2 sierpnia 2025 r. (dla modeli wprowadzonych do obrotu wcześniej: 2 sierpnia 2027 r., art. 111 ust. 3). Obowiązki w zakresie przejrzystości z art. 50: od 2 sierpnia 2026 r. (art. 50 ust. 2 dla systemów już wprowadzonych do obrotu: 2 grudnia 2026 r.). Przepisy o wysokim ryzyku (rozdział III sekcje 1–3): 2 grudnia 2027 r. dla systemów z załącznika III. Dla systemów z załącznika I: 2 sierpnia 2028 r. (art. 113 akapit trzeci lit. c). Sekcja B załącznika I stanowi wyjątek (art. 2 ust. 2). Mają tam zastosowanie tylko art. 6 ust. 1, art. 60a (testowanie w warunkach rzeczywistych) i art. 102–112 (przepisy końcowe). Art. 57–59 (piaskownice regulacyjne w zakresie AI) mają zastosowanie tylko w zakresie, w jakim te przepisy uwzględniają wymogi wysokiego ryzyka. Systemy wysokiego ryzyka wprowadzone do obrotu przed tymi terminami są objęte przepisami dopiero po znaczących zmianach konstrukcji (art. 111 ust. 2). Dostawcy i podmioty wdrażające systemów wysokiego ryzyka przeznaczonych dla organów publicznych muszą w każdym razie podjąć niezbędne kroki w celu zapewnienia zgodności do 2 sierpnia 2030 r. Źródła dat: art. 113 akapit trzeci lit. a–c; art. 111 ust. 2 dla daty z 2030 r.; art. 111 ust. 4 dla art. 50 ust. 2. Rozdział III sekcje 1–3 to art. 6–27, z wyjątkiem art. 6 ust. 5.
Czy firmy SaaS, które używają API AI stron trzecich, mają obowiązki?
Tak, jako dostawca lub jako podmiot wdrażający. Jeśli wbudowują Państwo API w produkt, który oferują pod swoją nazwą, są Państwo dostawcą tego systemu AI. Jeśli używają Państwo systemu AI strony trzeciej tylko we własnej działalności, są Państwo podmiotem wdrażającym (art. 26 dla systemów wysokiego ryzyka, art. 50, jeśli ma zastosowanie). Dostawca modelu AI ogólnego przeznaczenia ma własne obowiązki (art. 53).
Scanara przygotowuje dowody na podstawie Państwa repozytoriów
Scanara odczytuje połączone repozytoria GitHub i uruchamia skany oparte na regułach pod kątem typowych wzorców AI i uczenia maszynowego. Może pominąć kod niestandardowy. Osobno generuje projekty dokumentacji na podstawie szablonów i Państwa odpowiedzi w ocenach, jako dowody dla Państwa pracy nad zgodnością. Klasyfikację ustalają Państwo.