Artykuł 26: obowiązki stosujących AI w edukacji — EU AI Act
Jak obowiązki podmiotów stosujących z artykułu 26 EU AI Act dotyczą szkół i uczelni — szkolenie nauczycieli, powiadamianie rodziców, ochrona danych dzieci, FRIA.
Artykuł 26 aktu UE w sprawie AI ustanawia obowiązki dla podmiotów stosujących — organizacji korzystających z systemów AI wysokiego ryzyka opracowanych przez podmioty trzecie. W obszarze edukacji podmiotami stosującymi są szkoły, uczelnie, komisje egzaminacyjne oraz organy edukacyjne, które nabywają od dostawców technologii edukacyjnych narzędzia oparte na AI do oceny uczniów, uczenia adaptacyjnego, wykrywania plagiatu lub selekcji rekrutacyjnej. Instytucje te ponoszą bezpośrednią odpowiedzialność za zgodność w zakresie sposobu wykorzystywania narzędzi AI w środowiskach edukacyjnych, mimo że nie zbudowały tej technologii.
Podmioty stosujące w edukacji podlegają zaostrzonym obowiązkom, ponieważ ich systemy AI dotyczą dzieci i młodzieży — wrażliwych osób, których dane dotyczą, na mocy RODO. DPIA jest obowiązkowa przy wdrażaniu AI w środowiskach edukacyjnych z udziałem osób małoletnich, a rodzice lub opiekunowie muszą zostać powiadomieni o narzędziach AI wykorzystywanych w edukacji ich dziecka. Ta strona wyjaśnia, czego artykuł 26 wymaga od instytucji edukacyjnych, jak wchodzi w interakcję z prawem ochrony danych i prawem oświatowym oraz jakie luki w zgodności wykrywa Scanara.
Kto jest podmiotem stosującym w edukacji?
Szkoły i okręgi szkolne
Szkoły podstawowe i średnie wdrażające narzędzia oparte na AI do oceny uczniów, analizy uczenia się lub monitorowania zachowania. Okręgi szkolne, które nabywają platformy AI centralnie, są podmiotami stosującymi z obowiązkami wynikającymi z artykułu 26 dla wszystkich szkół korzystających z tych narzędzi.
Uczelnie i szkolnictwo wyższe
Uczelnie korzystające z AI podmiotów trzecich do punktacji rekrutacyjnej, zautomatyzowanego oceniania wypracowań, wykrywania plagiatu (np. Turnitin) lub platform uczenia adaptacyjnego. Każda instytucja wdrażająca te narzędzia jest podmiotem stosującym, niezależnie od tego, czy zakup był scentralizowany.
Organy egzaminacyjne i certyfikujące
Organizacje korzystające z AI do zautomatyzowanego oceniania egzaminów, nadzoru lub oceny certyfikacyjnej. Podmioty te podejmują decyzje o wysokiej stawce dotyczące osiągnięć edukacyjnych i muszą zapewnić solidny nadzór ze strony człowieka nad ocenianiem wspomaganym przez AI.
Ministerstwa i organy edukacji
Rządowe organy edukacyjne wdrażające AI do analizy wyników szkół, alokacji zasobów lub systemów wczesnego ostrzegania o ryzyku przerwania nauki. Jako podmioty prawa publicznego muszą one przeprowadzić FRIA przed wdrożeniem.
Platformy uczenia online
Instytucje edukacyjne korzystające z systemów korepetycji opartych na AI podmiotów trzecich, silników uczenia adaptacyjnego lub spersonalizowanych systemów rekomendacji od komercyjnych dostawców technologii edukacyjnych. Instytucja udzielająca licencji na platformę do użytku uczniów jest podmiotem stosującym.
Kluczowe obowiązki podmiotu stosującego dla edukacji
Artykuł 26 wymaga, aby podmioty stosujące używały systemów AI zgodnie z instrukcjami dostawcy, przypisywały nadzór ze strony człowieka i monitorowały działania. W przypadku edukacji obowiązki te mają dodatkowe znaczenie, ponieważ osoby, których dotyczą, to często dzieci o ograniczonej zdolności rozumienia lub kwestionowania decyzji AI.
Szkolenie nauczycieli w zakresie narzędzi AI
Podmioty stosujące muszą przypisać nadzór ze strony człowieka osobom o niezbędnych kompetencjach, przeszkoleniu i uprawnieniach. W edukacji oznacza to, że nauczyciele muszą zostać przeszkoleni, aby odpowiednio korzystać z narzędzi AI, rozpoznawać, kiedy wynik AI jest nieprawidłowy, oraz nadpisywać zalecenia AI. Szkolenie musi obejmować konkretne możliwości i znane ograniczenia systemu AI.
Powiadamianie rodziców i opiekunów
W przypadku narzędzi AI wykorzystywanych z osobami małoletnimi rodzice lub prawni opiekunowie muszą zostać poinformowani o systemach AI wdrożonych w edukacji ich dziecka. Obejmuje to cel AI, jakie dane przetwarza oraz w jaki sposób wyniki AI są wykorzystywane w decyzjach edukacyjnych. Wykracza to poza artykuł 26 do wymogów RODO dotyczących danych dzieci.
Ocena skutków dla praw podstawowych
Szkoły publiczne i organy edukacyjne muszą przeprowadzić FRIA przed wdrożeniem AI wysokiego ryzyka. Ocena musi analizować wpływ na prawa dzieci do edukacji, niedyskryminacji, rozwoju i uczestnictwa. Szkoły prywatne zapewniające edukację finansowaną ze środków publicznych również mogą być zobowiązane do przeprowadzenia FRIA.
Monitorowanie użycia dostosowanego do wieku
Podmioty stosujące muszą monitorować działanie systemu AI na podstawie instrukcji dostawcy. W edukacji obejmuje to weryfikację, że narzędzie AI jest odpowiednie dla grupy wiekowej i poziomu poznawczego ucznia oraz że nie generuje wyników, które są szkodliwe, wprowadzające w błąd lub nieodpowiednie dla rozwoju.
Nakładanie się przepisów
Podmioty stosujące w edukacji muszą przestrzegać aktu UE w sprawie AI wraz z ochroną danych dzieci wynikającą z RODO, krajowymi przepisami oświatowymi oraz wytycznymi Rady Europy dotyczącymi AI w edukacji. Nakładanie się tworzy warstwowy obowiązek zgodności.
RODO art. 8 — Dane dzieci
RODO zapewnia szczególną ochronę danych osobowych dzieci, w tym wymogi zgody rodzicielskiej dla usług społeczeństwa informacyjnego. Wdrożenie AI przetwarzającej dane uczniów uruchamia te zabezpieczenia obok obowiązków podmiotu stosującego z artykułu 26. Mechanizmy zgody muszą być zaprojektowane tak, aby były zrozumiałe dla rodziców oraz, w stosownych przypadkach, dla samych uczniów.
RODO art. 35 — DPIA dla osób wrażliwych
DPIA jest obowiązkowa przy przetwarzaniu danych dzieci lub korzystaniu z nowych technologii w środowiskach edukacyjnych. Jest ona odrębna od FRIA aktu w sprawie AI, ale dotyczy nakładających się kwestii. Podmioty stosujące w edukacji powinny przeprowadzić obie oceny równolegle, zapewniając, że każdy wymóg regulacyjny jest odrębnie uwzględniony.
Krajowe przepisy oświatowe
Państwa członkowskie mają przepisy oświatowe regulujące standardy oceniania, prawa uczniów oraz prawa rodziców do informacji. Niektóre jurysdykcje ograniczają zautomatyzowane podejmowanie decyzji w ocenianiu edukacyjnym lub wymagają szczególnych zatwierdzeń przed wdrożeniem technologii w salach lekcyjnych. Wymogi te nawarstwiają się na artykuł 26.
Wytyczne Rady Europy dotyczące AI w edukacji
Rada Europy wydała wytyczne dotyczące AI w edukacji, kładąc nacisk na przejrzystość, autonomię ucznia oraz wzmocnienie pozycji nauczyciela. Choć nie są prawnie wiążące, wytyczne te wyznaczają dobre praktyki i mogą wpływać na to, jak organy nadzorcze interpretują obowiązki podmiotu stosującego z artykułu 26 w środowiskach edukacyjnych.
Typowe naruszenia wykrywane przez Scanara
Brak konfiguracji rejestrowania zdarzeń AI technologii edukacyjnych
Narzędzia AI do oceny lub uczenia adaptacyjnego wdrożone bez infrastruktury rejestrowania rejestrującej dane wejściowe, wyjściowe i decyzje AI. Scanara oznacza wdrożenia edukacyjne, w których nie istnieje ścieżka audytu dla wspomaganych przez AI decyzji o ocenianiu lub profilowaniu uczniów.
AI podmiotu trzeciego wdrożona bez dokumentacji FRIA
Szkoły publiczne lub organy edukacyjne wdrażające narzędzia AI bez udokumentowanej oceny skutków dla praw podstawowych. Scanara wykrywa wdrożenia AI wysokiego ryzyka w środowiskach edukacji publicznej, w których przed użyciem w kontakcie z uczniami nie zarejestrowano żadnej FRIA.
Rola nadzoru ze strony człowieka nieprzypisana formalnie
Narzędzia AI do oceniania lub oceny wdrożone bez formalnego wyznaczenia, którzy nauczyciele lub pracownicy akademiccy weryfikują wyniki AI przed podjęciem decyzji rodzących konsekwencje. Scanara identyfikuje wdrożenia, w których żadne przypisanie roli nie łączy przeszkolonych nauczycieli z odpowiedzialnością za nadzór nad AI.
Brak powiadomienia rodziców o użyciu AI z osobami małoletnimi
Narzędzia AI przetwarzające dane uczniów wdrożone bez udokumentowanego powiadomienia rodziców lub opiekunów. Scanara oznacza wdrożenia w środowiskach edukacji podstawowej i średniej, w których nie wdrożono żadnego mechanizmu powiadamiania lub zgody rodzicielskiej dla korzystania z systemu AI.
Lista kontrolna zgodności z artykułem 26 dla edukacji
Użycie zgodne z instrukcją obsługi
Zweryfikuj, że narzędzia AI są używane w zakresie zadeklarowanym przez dostawcę — właściwe grupy wiekowe, przedmioty i typy oceny. Udokumentuj wszelkie użycie poza przewidzianym zakresem.
Szkolenie i nadzór nauczycieli
Przeszkol nauczycieli w zakresie możliwości i ograniczeń narzędzi AI. Formalnie przypisz role nadzoru z udokumentowanym uprawnieniem do nadpisywania wyników AI w decyzjach o ocenie i profilowaniu uczniów.
Zgłaszanie incydentów
Ustanów proces zgłaszania nieprawidłowego działania AI do dostawcy technologii edukacyjnych oraz właściwego organu. Uwzględnij kryteria określające, co stanowi poważny incydent w kontekście edukacyjnym.
Rejestrowanie operacyjne
Skonfiguruj rejestrowanie wspomaganych przez AI decyzji o ocenie oraz analizy uczenia się. Przechowuj rejestry na potrzeby odwołań akademickich, inspekcji regulacyjnej oraz wniosków rodziców o informacje.
Ocena skutków dla praw podstawowych
Przeprowadź FRIA przed wdrożeniem AI w środowiskach edukacji publicznej. Uwzględnij prawa dzieci do edukacji, niedyskryminacji, rozwoju i uczestnictwa.
Najczęściej zadawane pytania
Powiązane zasoby
Artykuł 26: obowiązki podmiotu stosującego
Pełne wymogi dla podmiotów stosujących z artykułu 26 we wszystkich branżach.
AI edukacji — centrum branżowe
Kompletny przewodnik po zgodności z aktem UE w sprawie AI dla systemów AI edukacji.
Artykuł 9: zarządzanie ryzykiem dla edukacji
Wymogi systemu zarządzania ryzykiem dla podmiotów stosujących i dostawców AI edukacji.
Artykuł 13: przejrzystość dla edukacji
Obowiązki w zakresie przejrzystości i informacji dla systemów AI edukacji.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.