Art. 50 dla systemów autonomicznych: przejrzystość i ujawnianie

Każdy ustęp wskazuje, kto musi ujawniać. Każdy zawiera też wyjątek dla zastosowań dozwolonych lub dopuszczonych prawem do wykrywania przestępstw, zapobiegania im lub prowadzenia w ich sprawie dochodzeń; ust. 1, 2 i 4 wymieniają też ściganie, a ust. 1 i 3 wiążą z wyjątkiem warunki.

• art. 50(1)
  Systemy wchodzące w interakcję z ludźmi (dostawca)

  Dostawcy muszą projektować systemy przeznaczone do bezpośredniej interakcji z osobami fizycznymi tak, aby te osoby były informowane, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej dostatecznie poinformowanej, uważnej i ostrożnej, z uwzględnieniem okoliczności i kontekstu wykorzystywania.

• art. 50(2)
  Oznaczanie syntetycznych wyników (dostawca)

  Dostawcy systemów generujących syntetyczne treści dźwiękowe, obrazowe, wideo lub tekstowe muszą zapewnić, aby wyniki były oznakowane w formacie nadającym się do odczytu maszynowego i wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Obowiązek nie ma zastosowania w zakresie, w jakim system pełni funkcję wspomagającą w zakresie standardowej edycji lub nie zmienia w istotny sposób danych wejściowych ani ich semantyki.

• art. 50(3)
  Rozpoznawanie emocji i kategoryzacja biometryczna (podmiot wdrażający)

  Podmioty wdrażające system rozpoznawania emocji lub system kategoryzacji biometrycznej muszą informować osoby fizyczne, wobec których te systemy są stosowane, o fakcie ich stosowania i przetwarzać dane osobowe zgodnie z obowiązującymi przepisami o ochronie danych.

• art. 50(4)
  Deepfake i opublikowane teksty (podmiot wdrażający)

  Podmioty wdrażające system generujący lub przetwarzający obrazy, treści dźwiękowe lub wideo stanowiące deepfake muszą ujawnić, że treści te zostały sztucznie wygenerowane lub zmanipulowane. To samo dotyczy tekstu publikowanego w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, chyba że tekst został poddany weryfikacji przez człowieka lub kontroli redakcyjnej, a odpowiedzialność redakcyjną ponosi osoba. W przypadku utworu o wyraźnie artystycznym, twórczym, satyrycznym lub fikcyjnym charakterze obowiązek ogranicza się do ujawnienia istnienia wygenerowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania ani korzystania z utworu.

• art. 50(5)
  Jak i kiedy informować

  Informacje podaje się w jasny i wyraźny sposób najpóźniej przy pierwszym kontakcie lub pierwszym narażeniu, a muszą być zgodne z mającymi zastosowanie wymogami dostępności (art. 50 ust. 5).

Liczy się to, co robi system, a nie w którym załączniku się znajduje. Jedno ograniczenie wynika z art. 2 ust. 2.

• „Systemy autonomiczne” nie są kategorią rozporządzenia

  Rozporządzenie nie zna kategorii „systemy autonomiczne”. Ta strona używa tego słowa dla AI w pojazdach, dronach, robotach i maszynach oraz dla AI wspierającej zarządzanie ruchem drogowym. Art. 50 nie zależy od sektora ani załącznika: dotyczy tego, co robi system, niezależnie od tego, czy jest on systemem wysokiego ryzyka. Jedno ograniczenie wynika z art. 2 ust. 2; zob. wiersz o sekcji B poniżej.

• Systemy wysokiego ryzyka mają oba zestawy obowiązków

  System, który jest systemem wysokiego ryzyka na podstawie załącznika III pkt 2 lub jako produkt z sekcji A i ma też interfejs czatu, podlega obowiązkom z art. 50 od 2 sierpnia 2026 oraz obowiązkom z rozdziału III od 2 grudnia 2027 lub 2 sierpnia 2028. Art. 50 nie wpływa na wymogi i obowiązki z rozdziału III (art. 50 ust. 6).

• Załącznik I sekcja B: art. 50 nie jest wymieniony w art. 2 ust. 2

  Art. 2 ust. 2 wymienia przepisy, które stosuje się do systemu AI będącego systemem wysokiego ryzyka na podstawie art. 6 ust. 1 i dotyczącego produktu z załącznika I sekcji B, takiego jak pojazd silnikowy, statek powietrzny, produkt kolejowy, wyposażenie morskie lub maszyna; art. 50 do nich nie należy. Asystent głosowy lub chatbot w pojeździe, który sam nie jest takim systemem wysokiego ryzyka, znajduje się poza art. 2 ust. 2, a art. 50 stosuje się do niego jak do każdego systemu AI. W przypadku systemu, który jest jednym i drugim, rozporządzenie nie daje dalszej odpowiedzi; zapytaj prawnika.

• Przykłady według ustępów

  Przykład: asystent głosowy w pojeździe lub robot dostawczy, który rozmawia z odbiorcami, jest systemem przeznaczonym do bezpośredniej interakcji z osobami fizycznymi (art. 50 ust. 1); informacja nie jest potrzebna, gdy wynika to jasno z okoliczności. Przykład: narzędzie generujące syntetyczne wiadomości głosowe lub obrazy dla klientów generuje treści syntetyczne i podlega obowiązkowi oznaczania przez dostawcę (art. 50 ust. 2); operator, który tylko z niego korzysta, jest podmiotem wdrażającym, a jego obowiązki wynikają, o ile mają zastosowanie, z art. 50 ust. 3 i 4, a nie z ust. 2. Według swojego brzmienia art. 50 ust. 1 nie opisuje komponentu percepcji, planowania ani sterowania pojazdu lub maszyny; to, czy system jest przeznaczony do bezpośredniej interakcji z osobami fizycznymi, wynika z jego przeznaczenia (art. 3 pkt 12).

• Terminy

  Art. 113 stosuje rozporządzenie od 2 sierpnia 2026; rozdział IV zawierający art. 50 nie należy do przepisów, dla których lit. a)–d) podają inną datę. Dostawcy systemów generujących treści syntetyczne, wprowadzonych do obrotu przed tą datą, muszą podjąć niezbędne kroki, aby spełnić art. 50 ust. 2 do 2 grudnia 2026 (art. 111 ust. 4). Rozporządzenie nie przewiduje okresu przejściowego dla art. 50 ust. 1, 3 i 4.

• Kary

  Naruszenie obowiązków przejrzystości dostawców i podmiotów wdrażających z art. 50 może skutkować karą pieniężną do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4 lit. g)). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). Ten sam pułap dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy określające, w jakim zakresie kary administracyjne mogą być nakładane na organy i podmioty publiczne ustanowione w tym państwie członkowskim (art. 99 ust. 8).

• Granice zakresu stosowania rozporządzenia

  Rozporządzenie stosuje się do dostawców wprowadzających do obrotu lub oddających do użytku systemy AI w Unii albo wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, bez względu na miejsce ich siedziby (art. 2 ust. 1 lit. a)), oraz do dostawców i podmiotów wdrażających z siedzibą w państwie trzecim, jeżeli wyniki działania systemu AI są wykorzystywane w Unii (lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres prawa Unii i nie wpływa na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego; nie stosuje się go też do systemów AI wykorzystywanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Rozporządzenia nie stosuje się do systemów AI ani modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie w celu badań naukowych i prac rozwojowych (art. 2 ust. 6). Nie stosuje się go też do działalności badawczej, testowej i rozwojowej prowadzonej przed wprowadzeniem systemu lub modelu do obrotu lub oddaniem do użytku; testy w warunkach rzeczywistych nie są objęte tym wyłączeniem (art. 2 ust. 8). Nie ma zastosowania do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że zostaną wprowadzone do obrotu lub oddane do użytku jako systemy AI wysokiego ryzyka lub jako systemy AI objęte art. 5 lub 50 (art. 2 ust. 12). Osoby fizyczne, które korzystają z systemu w ramach czysto osobistej działalności o charakterze nieprofesjonalnym, nie są związane obowiązkami podmiotu wdrażającego (art. 2 ust. 10).

• Brak przepisu specyficznego dla systemów autonomicznych, brak formatu oznaczenia

  Art. 50 nie zawiera przepisu specyficznego dla systemów autonomicznych. Nie wskazuje żadnego sformułowania ani ikony; obowiązek oznaczania wymaga formatu nadającego się do odczytu maszynowego i wykrywalności, z uwzględnieniem powszechnie uznawanego stanu wiedzy technicznej, który może znajdować odzwierciedlenie w odpowiednich normach technicznych (art. 50 ust. 2). Komisja opracowuje wytyczne dotyczące art. 50 (art. 96 ust. 1 lit. d)).

• Kodeksy praktyk

  Komisja zachęca do opracowywania kodeksów postępowania dotyczących wykrywania, oznaczania i etykietowania treści wygenerowanych lub zmanipulowanych sztucznie i je ułatwia oraz ocenia, czy przestrzeganie kodeksu wystarcza do zapewnienia zgodności z art. 50 ust. 2 i 4. Jeżeli uzna kodeks za niewystarczający, może przyjąć akt wykonawczy określający wspólne zasady (art. 50 ust. 7). Artykuł nie czyni ich przestrzegania obowiązkowym.

• Weryfikacja przez człowieka

  Wyjątek dla weryfikacji przez człowieka lub kontroli redakcyjnej znajduje się w art. 50 ust. 4, dla opublikowanego tekstu. Art. 50 ust. 2 go nie zna; jego wyjątki to wspomaganie standardowej edycji, brak istotnej zmiany danych wejściowych lub ich semantyki oraz dozwolenie prawem do celów karnych.

• Brak obowiązku oznaczania ostrzeżeń, komunikatów o stanie i telemetrii

  Art. 50 nie wskazuje obowiązku specyficznego dla ostrzeżeń, komunikatów o stanie, telemetrii ani sprawozdań operacyjnych pojazdu, statku powietrznego lub maszyny. Obowiązek ujawnienia po stronie podmiotu wdrażającego powstaje tylko w przypadkach z art. 50 ust. 3 (rozpoznawanie emocji i kategoryzacja biometryczna) oraz art. 50 ust. 4 (deepfake’i i opublikowane teksty w sprawach interesu publicznego).

• Inne przepisy o przejrzystości

  Art. 50 pozostaje bez uszczerbku dla innych obowiązków w zakresie przejrzystości przewidzianych w prawie Unii lub prawie krajowym dla podmiotów wdrażających systemy AI (art. 50 ust. 6). To, czy inne przepisy wymagają dalszych informacji dla klientów lub społeczeństwa, rozporządzenie nie rozstrzyga.

• Artykuł 50: obowiązki przejrzystości i ujawniania

  Art. 50 dla wszystkich sektorów: cztery obowiązki, wyjątki, terminy i kary.

• Rozporządzenie AI: zgodność systemów autonomicznych

  Przegląd systemów autonomicznych: które drogi z rozporządzenia dotyczą pojazdów, statków powietrznych, maszyn i AI w ruchu drogowym.

• Art. 53 dla systemów autonomicznych: obowiązki dostawców modeli AI ogólnego przeznaczenia

  Systemy autonomiczne i art. 53: dostawcy modeli, dokumentacja, prawa autorskie i streszczenie danych treningowych.

• Systemy AI wysokiego ryzyka z załącznika I: ścieżka bezpieczeństwa produktów

  Załącznik I: które systemy AI w produktach regulowanych są systemami wysokiego ryzyka, z sekcjami A i B.