Artykuł 13: przejrzystość w AI edukacyjnej — EU AI Act
Jak wymogi przejrzystości z artykułu 13 EU AI Act stosują się do AI edukacyjnej — ujawnianie dostosowane do wieku, przejrzystość oceniania, wyjaśnialność przyjęć.
Artykuł 13 EU AI Act wymaga, aby systemy AI wysokiego ryzyka były wystarczająco przejrzyste, umożliwiając podmiotom stosującym interpretację wyników i ich właściwe wykorzystanie. W edukacji przejrzystość chroni prawa uczniów i rodziców, jednocześnie umożliwiając nauczycielom podejmowanie świadomych decyzji. Zgodnie z Załącznikiem III, Sekcja 3, systemy AI decydujące o dostępie lub przyjęciu do instytucji edukacyjnych, oceniające wyniki uczenia się lub oceniające odpowiedni poziom kształcenia dla danej osoby są klasyfikowane jako systemy wysokiego ryzyka i podlegają pełnym obowiązkom w zakresie przejrzystości z artykułu 13.
Ta strona wyjaśnia, w jaki sposób wymogi przejrzystości z artykułu 13 mają zastosowanie w szczególności do AI edukacyjnej — od przyjęć po ocenianie — w tym ujawnianie dostosowane do wieku, wskazówki dla nauczycieli, powiadamianie rodziców oraz jakie naruszenia na poziomie kodu Scanara wykrywa w systemach AI dla edukacji.
Które systemy AI edukacyjnej muszą być przejrzyste?
AI do przyjęć i rekrutacji
Systemy AI przesiewające, klasyfikujące lub filtrujące kandydatów do instytucji edukacyjnych muszą wyjaśniać, które kryteria zadecydowały o decyzjach o przyjęciu. “Nasz system uznał Cię za nieodpowiedniego” bez uzasadnienia jest niezgodne z artykułem 13(1).
Ocenianie i weryfikacja wspomagane przez AI
Systemy oceniające eseje, egzaminy lub prace muszą być przejrzyste w zakresie stosowanych kryteriów oceny i wag. Nauczyciele muszą rozumieć ograniczenia modelu, aby prawidłowo wykorzystywać zalecenia oceniania AI, a nie traktować je jak ostateczne werdykty.
Ścieżka uczenia się i rekomendacja treści
Systemy AI rekomendujące materiały edukacyjne, dostosowujące poziomy trudności lub personalizujące programy nauczania muszą być przejrzyste w zakresie podstaw rekomendacji, zwłaszcza gdy wpływają one na postęp edukacyjny lub przyporządkowanie ucznia do ścieżki.
Wykrywanie plagiatu i integralności akademickiej
Narzędzia AI wykrywające plagiat lub treści generowane przez AI muszą zapewniać przejrzyste wyjaśnienia, dlaczego treść została oznaczona. Uczniowie oskarżeni o nieuczciwość akademicką muszą mieć dostęp do uzasadnienia stojącego za ustaleniem AI, a nie tylko do wskaźnika podobieństwa.
Systemy ryzyka i wczesnego ostrzegania uczniów
AI przewidująca ryzyko porzucenia nauki przez uczniów, trudności w uczeniu się lub obawy behawioralne musi zapewniać nauczycielom interpretowalne wskaźniki wyjaśniające podstawy prognozy, umożliwiając ukierunkowaną interwencję zamiast nieprzejrzystego oznaczania.
Kluczowe obowiązki w zakresie przejrzystości dla edukacji
Artykuł 13 wymaga instrukcji obsługi, które umożliwiają podmiotom stosującym właściwą interpretację wyników AI. W przypadku AI edukacyjnej oznacza to, że instrukcje muszą być zrozumiałe dla nauczycieli, administratorów oraz — co kluczowe — dla rodziców małoletnich, a nie tylko dla personelu technicznego. Przejrzystość dostosowana do wieku jest wyróżniającym się wyzwaniem w tym sektorze.
Przejrzystość dostosowana do wieku dla małoletnich
Gdy systemy AI przetwarzają dane małoletnich, przejrzystość musi być skierowana do rodziców lub opiekunów prawnych, a nie tylko do administratorów instytucji. Instrukcje obsługi muszą być zrozumiałe dla rodziców bez wykształcenia technicznego, wyjaśniając, co robi AI, jak wpływa na edukację ich dziecka i jakie prawa im przysługują.
Nauczyciele muszą rozumieć ograniczenia modelu
Artykuł 13(1) wymaga, aby wyniki były interpretowalne przez podmioty stosujące. Nauczyciele muszą rozumieć, że zalecenia oceniania AI nie są nieomylne — instrukcje muszą dokumentować wskaźniki dokładności, znane uprzedzenia (język, odniesienia kulturowe, styl pisania) oraz przypadki, w których ocena ludzka powinna unieważnić ocenę AI.
Uczniowie i rodzice muszą zostać powiadomieni
Artykuł 50(1) wymaga, aby osoby fizyczne wchodzące w interakcję z systemem AI były o tym informowane. Uczniowie i rodzice muszą zostać powiadomieni, gdy AI jest wykorzystywana w decyzjach o przyjęciu, ocenianiu lub przyporządkowaniu edukacyjnym. Powiadomienie musi być terminowe — przed podjęciem decyzji pod wpływem AI lub w jej momencie.
Instytucje muszą wyjaśniać decyzje wspomagane przez AI
W przypadku zakwestionowania instytucje muszą być w stanie wyjaśnić, dlaczego podjęto decyzję wspomaganą przez AI. Artykuł 22 GDPR daje osobom prawo do zakwestionowania zautomatyzowanych decyzji o istotnych skutkach — przyporządkowanie edukacyjne i ocenianie wyraźnie się do tego kwalifikują. Przejrzystość artykułu 13 umożliwia instytucji przedstawienie tego wyjaśnienia.
Nakładanie się regulacji
Przejrzystość AI edukacyjnej przecina się z ochroną danych dzieci, prawem antydyskryminacyjnym i krajowymi przepisami edukacyjnymi. Artykuł 13 musi być skoordynowany z tymi nakładającymi się obowiązkami.
Artykuły 13/14 i artykuł 22 GDPR — Dane dzieci
GDPR wymaga jasnego, prostego języka przy przekazywaniu informacji dzieciom (Motyw 58). Informacje o przetwarzaniu przez AI danych dzieci muszą być dostosowane do wieku. Artykuł 22 GDPR daje prawo do zakwestionowania zautomatyzowanych decyzji — decyzje AI edukacyjnej wpływające na postęp dziecka kwalifikują się jako decyzje o “podobnie istotnych skutkach”.
Wytyczne Rady Europy dotyczące AI w edukacji
Wytyczne Rady Europy dotyczące AI i edukacji podkreślają przejrzystość jako podstawową zasadę, wymagając, aby AI edukacyjna była zrozumiała dla wszystkich zainteresowanych stron, w tym uczniów, rodziców i nauczycieli. Te niewiążące wytyczne kształtują wdrażanie krajowe i uzupełniają wiążące wymogi artykułu 13.
Krajowe prawo edukacyjne i regulaminy egzaminacyjne
Wiele państw członkowskich UE ma przepisy regulujące rzetelność egzaminów, odwołania od ocen i przejrzystość przyjęć. Gdy AI jest wykorzystywana w tych procesach, istniejące krajowe obowiązki w zakresie przejrzystości (np. prawo do wglądu w prace egzaminacyjne i zrozumienia kryteriów oceniania) muszą zostać rozszerzone o informacje specyficzne dla AI dotyczące roli systemu.
Zalecenie UNESCO w sprawie etyki AI
Zalecenie UNESCO w sprawie etyki AI wyróżnia edukację jako obszar priorytetowy wymagający przejrzystości, w szczególności w odniesieniu do uprzedzeń algorytmicznych w ocenianiu oraz potencjału AI do wzmacniania nierówności edukacyjnych. Zasady te kształtują ducha wdrażania artykułu 13 w edukacji.
Typowe naruszenia wykrywane przez Scanara
Ocenianie przez AI bez przejrzystości kryteriów
Punkty końcowe oceniania zwracające wyniki lub oceny bez towarzyszącego wyjaśnienia, które kryteria oceny przyczyniły się do wyniku. Artykuł 13(1) wymaga interpretowalnych wyników — Scanara oznacza API oceniania, które zwracają wyłącznie wyniki liczbowe bez wyjaśnienia na poziomie rubryki.
Brak ujawnienia AI w interfejsach skierowanych do uczniów
Platformy edukacyjne i narzędzia oceniania, które wykorzystują AI bez powiadamiania uczniów lub rodziców. Scanara wykrywa strony skierowane do uczniów i punkty końcowe API, które inicjują przetwarzanie AI bez komponentu ujawniania lub mechanizmu powiadamiania.
Odrzucenie przyjęcia bez wyjaśnienia czynników
Punkty końcowe decyzji o przyjęciu, które zwracają statusy odrzucenia bez wyjaśnienia, które czynniki przyczyniły się do decyzji. Kandydaci i ich rodzice muszą być w stanie zrozumieć podstawy decyzji o przyjęciu wspomaganej przez AI na mocy artykułu 13 i artykułu 22 GDPR.
Instrukcja obsługi bez sekcji dotyczącej ograniczeń
Dokumentacja systemu opisująca możliwości oceniania AI bez udokumentowania znanych ograniczeń, takich jak uprzedzenia językowe, obsługa odniesień kulturowych lub pogorszenie dokładności w przypadku niestandardowych formatów prac. Artykuł 13(3)(b)(i) wymaga ujawnienia ograniczeń i przewidywalnego niewłaściwego wykorzystania.
Lista kontrolna zgodności z artykułem 13 dla edukacji
Uczynić oceny AI interpretowalnymi dla nauczycieli
Zapewnij, aby nauczyciele mogli zrozumieć podstawy zaleceń oceniania AI, w tym które kryteria przyczyniły się do wyniku i jak zostały zważone. Zapewnij przejrzystość na poziomie rubryki obok każdego wyniku oceny AI.
Powiadomić uczniów i rodziców o wykorzystaniu AI
Informuj uczniów i rodziców, gdy AI jest wykorzystywana w przyjęciach, ocenianiu lub przyporządkowaniu edukacyjnym. W przypadku małoletnich powiadomienia muszą być kierowane do rodziców w jasnym, nietechnicznym języku.
Zapewnić instrukcje obsługi dostosowane do wieku
Udokumentuj możliwości systemu, ograniczenia i przeznaczenie w języku zrozumiałym dla rodziców bez wykształcenia technicznego. Uwzględnij metryki dokładności, znane uprzedzenia oraz wskazówki dotyczące tego, kiedy ocena nauczyciela powinna unieważnić zalecenia AI.
Umożliwić zakwestionowanie decyzji AI
Zapewnij, aby przejrzystość zapewniona na mocy artykułu 13 była wystarczająca, aby uczniowie i rodzice mogli zakwestionować decyzje wspomagane przez AI. Instytucja musi być w stanie wyjaśnić wkład AI w każdą decyzję wpływającą na postęp edukacyjny.
Ujawnić dokładność i ograniczenia oceny
Raportuj dokładność oceniania, zgodność między oceniającymi z ludzkimi korektorami oraz znane różnice w wydajności w zależności od profili demograficznych uczniów, języków i formatów prac. Udokumentuj warunki, w których ocena AI może być mniej wiarygodna.
Często zadawane pytania
Powiązane zasoby
Artykuł 13: Przejrzystość
Pełne wymogi artykułu 13 we wszystkich branżach.
AI edukacyjna — Centrum branżowe
Kompletny przewodnik zgodności z EU AI Act dla systemów AI edukacyjnej.
Artykuł 12: Prowadzenie rejestrów dla edukacji
Wymogi rejestrowania i prowadzenia rejestrów dla AI edukacyjnej.
Artykuł 14: Nadzór ludzki dla edukacji
Obowiązki nadzoru ludzkiego dla systemów AI edukacyjnej.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.