Art. 50 dla AI w edukacji: przejrzystość i ujawnianie

Każdy ustęp wskazuje, kto musi ujawniać. Każdy ma też wyjątek dla zastosowań dozwolonych prawem do wykrywania przestępstw, zapobiegania im, prowadzenia postępowań przygotowawczych w ich sprawie lub ścigania ich sprawców; ust. 1 i 3 dodają warunki.

• art. 50(1)
  Systemy wchodzące w interakcję z ludźmi (dostawca)

  Dostawcy muszą projektować systemy przeznaczone do bezpośredniej interakcji z osobami fizycznymi tak, aby te osoby były informowane, że wchodzą w interakcję z systemem AI, chyba że jest to oczywiste z punktu widzenia osoby fizycznej dostatecznie poinformowanej, uważnej i ostrożnej, z uwzględnieniem okoliczności i kontekstu wykorzystywania.

• art. 50(2)
  Oznaczanie syntetycznych wyników (dostawca)

  Dostawcy systemów generujących syntetyczne treści dźwiękowe, obrazowe, wideo lub tekstowe muszą zapewnić, aby wyniki były oznakowane w formacie nadającym się do odczytu maszynowego i wykrywalne jako sztucznie wygenerowane lub zmanipulowane. Obowiązek nie ma zastosowania w zakresie, w jakim system pełni funkcję wspomagającą w zakresie standardowej edycji lub nie zmienia w istotny sposób danych wejściowych ani ich semantyki.

• art. 50(3)
  Rozpoznawanie emocji i kategoryzacja biometryczna (podmiot wdrażający)

  Podmioty wdrażające system rozpoznawania emocji lub system kategoryzacji biometrycznej muszą informować osoby fizyczne, wobec których te systemy są stosowane, o fakcie ich stosowania i przetwarzać dane osobowe zgodnie z obowiązującymi przepisami o ochronie danych.

• art. 50(4)
  Deepfake i opublikowane teksty (podmiot wdrażający)

  Podmioty wdrażające system generujący lub przetwarzający obrazy, treści dźwiękowe lub wideo stanowiące deepfake muszą ujawnić, że treści te zostały sztucznie wygenerowane lub zmanipulowane. To samo dotyczy tekstu publikowanego w celu informowania społeczeństwa o sprawach leżących w interesie publicznym, chyba że tekst został poddany weryfikacji przez człowieka lub kontroli redakcyjnej, a odpowiedzialność redakcyjną ponosi osoba. W przypadku utworu o wyraźnie artystycznym, twórczym, satyrycznym lub fikcyjnym charakterze obowiązek ogranicza się do ujawnienia istnienia wygenerowanych treści w odpowiedni sposób, który nie utrudnia wyświetlania ani korzystania z utworu.

• art. 50(5)
  Jak i kiedy informować

  Informacje podaje się w jasny i wyraźny sposób najpóźniej przy pierwszym kontakcie lub pierwszym narażeniu, a muszą być zgodne z mającymi zastosowanie wymogami dostępności (art. 50 ust. 5).

Liczy się to, co system robi, a nie w którym załączniku się znajduje.

• Gdzie w rozporządzeniu mieści się edukacja

  Rozporządzenie nie zawiera sektorowego reżimu dla edukacji. Ta strona używa słowa „edukacja” dla AI stosowanej w szkołach, na uczelniach, w kształceniu zawodowym i na egzaminach. Art. 50 nie zależy od sektora ani załącznika: dotyczy tego, co system robi, niezależnie od tego, czy jest systemem wysokiego ryzyka.

• Systemy wysokiego ryzyka mają oba zestawy obowiązków

  System oceny kandydatów, który jest systemem wysokiego ryzyka na podstawie załącznik III pkt 3 lit. a) i ma też interfejs czatu, podlega obowiązkom z art. 50 od 2 sierpnia 2026 i obowiązkom z rozdziału III od 2 grudnia 2027. Art. 50 nie wpływa na wymogi rozdziału III (art. 50 ust. 6).

• Przykłady według ustępów

  Przykład: chatbot do korepetycji lub asystent odpowiadający na pytania o przyjęcia wchodzi w bezpośrednią interakcję z osobami fizycznymi (art. 50 ust. 1). Przykład: system generujący teksty lub obrazy dydaktyczne generuje treści syntetyczne i podlega obowiązkowi oznaczania po stronie dostawcy (art. 50 ust. 2); szkoła, która tylko z niego korzysta, jest podmiotem wdrażającym, a jej obowiązki wynikają, o ile mają zastosowanie, z art. 50 ust. 3 i 4, a nie z art. 50 ust. 2.

• Wnioskowanie o emocjach w placówkach edukacji

  Art. 5 ust. 1 lit. f) zakazuje systemów AI, które wnioskują o emocjach osoby fizycznej w miejscu pracy i w placówkach edukacji, z wyjątkiem sytuacji, gdy system ma zostać wdrożony lub wprowadzony do obrotu ze względów medycznych lub bezpieczeństwa. Zakaz obowiązuje od 2 lutego 2025 (art. 113 lit. a)). Naruszenia art. 5 podlegają administracyjnej karze pieniężnej w wysokości do 35 mln EUR lub, w przypadku przedsiębiorstwa, do 7 % jego całkowitego światowego rocznego obrotu z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 3). Przykład: wnioskowanie o emocjach studentów z obrazów z kamery podczas zajęć mieści się w zakazie. Zakaz dotyczy wnioskowania o emocjach; monitorowanie testów jako takie wymienia załącznik III pkt 3 lit. d) jako zastosowanie wysokiego ryzyka. Gdy system rozpoznawania emocji jest dozwolony, podmioty wdrażające muszą informować osoby narażone na jego działanie (art. 50 ust. 3).

• Terminy

  Art. 113 stosuje rozporządzenie od 2 sierpnia 2026; rozdział IV zawierający art. 50 nie należy do przepisów, dla których lit. a)–d) podają inną datę. Dostawcy systemów generujących treści syntetyczne, wprowadzonych do obrotu przed tą datą, muszą podjąć niezbędne kroki, aby spełnić art. 50 ust. 2 do 2 grudnia 2026 (art. 111 ust. 4). Rozporządzenie nie przewiduje okresu przejściowego dla art. 50 ust. 1, 3 i 4.

• Kary

  Naruszenie obowiązków przejrzystości dostawców i podmiotów wdrażających z art. 50 może skutkować karą pieniężną do 15 mln EUR lub, w przypadku przedsiębiorstwa, do 3 % jego całkowitego światowego obrotu rocznego z poprzedniego roku obrotowego, zależnie od tego, która kwota jest wyższa (art. 99 ust. 4 lit. g)). Dla MŚP, w tym przedsiębiorstw typu start-up, każda kara jest ograniczona do niższej z tych kwot (art. 99 ust. 6). Ten sam pułap dotyczy małych spółek o średniej kapitalizacji (art. 3 pkt 14b, art. 99 ust. 6a). Każde państwo członkowskie ustanawia przepisy określające, w jakim zakresie kary administracyjne mogą być nakładane na organy i podmioty publiczne ustanowione w tym państwie członkowskim (art. 99 ust. 8).

• Granice zakresu stosowania rozporządzenia

  Rozporządzenie stosuje się do dostawców wprowadzających do obrotu lub oddających do użytku systemy AI w Unii albo wprowadzających do obrotu modele AI ogólnego przeznaczenia w Unii, bez względu na miejsce ich siedziby (art. 2 ust. 1 lit. a)), oraz do dostawców i podmiotów wdrażających z siedzibą w państwie trzecim, jeżeli wyniki działania systemu AI są wykorzystywane w Unii (lit. c)). Nie stosuje się go do obszarów wykraczających poza zakres prawa Unii i nie wpływa na kompetencje państw członkowskich w zakresie bezpieczeństwa narodowego; nie stosuje się go też do systemów AI wykorzystywanych wyłącznie do celów wojskowych, obronnych lub bezpieczeństwa narodowego (art. 2 ust. 3). Rozporządzenia nie stosuje się do systemów AI ani modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie w celu badań naukowych i prac rozwojowych (art. 2 ust. 6). Nie stosuje się go też do działalności badawczej, testowej i rozwojowej prowadzonej przed wprowadzeniem systemu lub modelu do obrotu lub oddaniem do użytku; testy w warunkach rzeczywistych nie są objęte tym wyłączeniem (art. 2 ust. 8). Nie stosuje się go do obowiązków podmiotów wdrażających będących osobami fizycznymi, które korzystają z systemów AI w ramach czysto osobistej działalności pozazawodowej (art. 2 ust. 10). Nie ma zastosowania do systemów AI udostępnianych na podstawie bezpłatnych licencji otwartego oprogramowania, chyba że zostaną wprowadzone do obrotu lub oddane do użytku jako systemy AI wysokiego ryzyka lub jako systemy AI objęte art. 5 lub 50 (art. 2 ust. 12).

• Brak reguły dla edukacji i formatu oznaczenia

  Art. 50 nie zawiera reguły specyficznej dla edukacji. Nie wskazuje brzmienia ani ikony; obowiązek oznaczania wymaga formatu nadającego się do odczytu maszynowego i wykrywalności, z uwzględnieniem powszechnie uznanego stanu wiedzy technicznej, który może znajdować odzwierciedlenie w odpowiednich normach technicznych (art. 50 ust. 2). Komisja opracowuje wytyczne dotyczące art. 50 (art. 96 ust. 1 lit. d)).

• Kodeksy praktyk

  Komisja zachęca do opracowywania kodeksów postępowania dotyczących wykrywania, oznaczania i etykietowania treści wygenerowanych lub zmanipulowanych sztucznie i je ułatwia oraz ocenia, czy przestrzeganie kodeksu wystarcza do zapewnienia zgodności z art. 50 ust. 2 i 4. Jeżeli uzna kodeks za niewystarczający, może przyjąć akt wykonawczy określający wspólne zasady (art. 50 ust. 7). Artykuł nie czyni ich przestrzegania obowiązkowym.

• Weryfikacja przez człowieka

  Wyjątek dla weryfikacji przez człowieka lub kontroli redakcyjnej znajduje się w art. 50 ust. 4, dla opublikowanego tekstu. Art. 50 ust. 2 go nie zna; jego wyjątki to wspomaganie standardowej edycji, brak istotnej zmiany danych wejściowych lub ich semantyki oraz dozwolenie prawem do celów karnych.

• Brak obowiązku oznaczania materiałów dydaktycznych

  Art. 50 nie wymienia obowiązku specyficznego dla planów lekcji, informacji zwrotnych ani ocen. Obowiązek ujawnienia po stronie podmiotu wdrażającego powstaje tylko w przypadkach z art. 50 ust. 3 (rozpoznawanie emocji i kategoryzacja biometryczna) oraz art. 50 ust. 4 (deepfake i opublikowane teksty w sprawach interesu publicznego). Informowanie osób objętych systemem wysokiego ryzyka, na przykład przy decyzjach o przyjęciu lub egzaminach, wynika z art. 26 ust. 11, a nie z art. 50 ust. 1.

• Obowiązki informacyjne w prawie oświatowym i o ochronie danych

  Art. 50 nie narusza innych obowiązków w zakresie przejrzystości podmiotów wdrażających wynikających z prawa Unii lub prawa krajowego (art. 50 ust. 6). Czy prawo oświatowe lub o ochronie danych wymaga dalszych informacji dla uczniów, studentów lub rodziców, rozporządzenie nie rozstrzyga.

• Artykuł 50: obowiązki przejrzystości i ujawniania

  Art. 50 dla wszystkich sektorów: cztery obowiązki, wyjątki, terminy i kary.

• Rozporządzenie AI edtech: zgodność w edukacji

  Przegląd edukacji: jak rozporządzenie obejmuje AI w szkołach, na uczelniach i w szkoleniach.

• Art. 53 w edukacji: obowiązki dostawców modeli AI ogólnego przeznaczenia

  AI w edukacji i art. 53: dostawcy modeli, dokumentacja, prawo autorskie i streszczenie danych treningowych.

• Zakazane praktyki AI: artykuł 5 rozporządzenia AI

  Zakazane praktyki, w tym wnioskowanie o emocjach w pracy i w edukacji.