Artikel 13: transparantie voor onderwijs-AI — EU AI-verordening
Hoe transparantie volgens artikel 13 van de EU AI-verordening geldt voor onderwijs-AI — leeftijdsgerichte openbaarmaking, beoordelingstransparantie en verklaarbare toelating.
Artikel 13 van de EU AI Act vereist dat AI-systemen met een hoog risico voldoende transparant zijn zodat gebruiksverantwoordelijken de output kunnen interpreteren en op passende wijze kunnen gebruiken. In het onderwijs beschermt transparantie de rechten van leerlingen en ouders en stelt zij onderwijzers in staat om weloverwogen beslissingen te nemen. Op grond van Bijlage III, Sectie 3, worden AI-systemen die de toegang tot of toelating tot onderwijsinstellingen bepalen, leerresultaten evalueren of het passende onderwijsniveau voor een persoon beoordelen, ingedeeld als hoog risico en onderworpen aan de volledige transparantieverplichtingen van artikel 13.
Deze pagina legt uit hoe de transparantievereisten van artikel 13 specifiek van toepassing zijn op onderwijs-AI — van toelating tot beoordeling — inclusief leeftijdsgerichte bekendmaking, begeleiding van leerkrachten, kennisgeving aan ouders en welke schendingen op codeniveau Scanara detecteert in onderwijs-AI-systemen.
Welke onderwijs-AI-systemen moeten transparant zijn?
AI voor toelating en inschrijving
AI-systemen die kandidaten voor onderwijsinstellingen screenen, rangschikken of filteren, moeten uitleggen welke criteria de toelatingsbeslissingen hebben bepaald. “Ons systeem achtte u niet geschikt” zonder onderbouwing is niet conform artikel 13(1).
AI-ondersteunde beoordeling en toetsing
Systemen die essays, examens of opdrachten beoordelen, moeten transparant zijn over de gebruikte beoordelingscriteria en weging. Leerkrachten moeten de beperkingen van het model begrijpen om AI-beoordelingsaanbevelingen correct te gebruiken in plaats van ze als definitieve oordelen te behandelen.
Leerpad- en inhoudsaanbeveling
AI-systemen die leermateriaal aanbevelen, moeilijkheidsniveaus aanpassen of curricula personaliseren, moeten transparant zijn over de basis voor aanbevelingen, met name wanneer deze van invloed zijn op de onderwijsvoortgang of niveauplaatsing van een leerling.
Detectie van plagiaat en academische integriteit
AI-tools die plagiaat of door AI gegenereerde inhoud detecteren, moeten transparante uitleg geven over waarom inhoud is gemarkeerd. Leerlingen die van academische oneerlijkheid worden beschuldigd, moeten toegang hebben tot de redenering achter de AI-bepaling, en niet alleen tot een gelijkeniscore.
Leerlingrisico- en vroegtijdige waarschuwingssystemen
AI die het uitvalrisico van leerlingen, leermoeilijkheden of gedragsproblemen voorspelt, moet onderwijzers voorzien van interpreteerbare indicatoren die de basis voor de voorspelling uitleggen, waardoor gerichte interventie mogelijk wordt in plaats van ondoorzichtige markering.
Belangrijkste transparantieverplichtingen voor het onderwijs
Artikel 13 vereist gebruiksaanwijzingen die gebruiksverantwoordelijken in staat stellen de AI-output op passende wijze te interpreteren. Voor onderwijs-AI betekent dit dat de instructies begrijpelijk moeten zijn voor leerkrachten, beheerders en — cruciaal — voor ouders van minderjarigen, niet alleen voor technisch personeel. Leeftijdsgerichte transparantie is een bijzondere uitdaging in deze sector.
Leeftijdsgerichte transparantie voor minderjarigen
Wanneer AI-systemen gegevens van minderjarigen verwerken, moet de transparantie zijn gericht op ouders of wettelijke voogden, niet alleen op de beheerders van de instelling. De gebruiksaanwijzing moet begrijpelijk zijn voor ouders zonder technische achtergrond en uitleggen wat de AI doet, hoe deze de opleiding van hun kind beïnvloedt en welke rechten zij hebben.
Leerkrachten moeten de beperkingen van het model begrijpen
Artikel 13(1) vereist dat de output interpreteerbaar is voor gebruiksverantwoordelijken. Leerkrachten moeten begrijpen dat AI-beoordelingsaanbevelingen niet onfeilbaar zijn — de instructies moeten de nauwkeurigheidspercentages, bekende vertekeningen (taal, culturele verwijzingen, schrijfstijl) en de gevallen documenteren waarin het menselijke oordeel de AI-beoordeling terzijde moet stellen.
Leerlingen en ouders moeten worden geïnformeerd
Artikel 50(1) vereist dat natuurlijke personen die met een AI-systeem interacteren, daarvan op de hoogte worden gesteld. Leerlingen en ouders moeten worden geïnformeerd wanneer AI wordt gebruikt bij beslissingen over toelating, beoordeling of onderwijsplaatsing. De kennisgeving moet tijdig zijn — vóór of op het moment van de door AI beïnvloede beslissing.
Instellingen moeten AI-ondersteunde beslissingen uitleggen
Bij betwisting moeten instellingen kunnen uitleggen waarom een AI-ondersteunde beslissing is genomen. Artikel 22 van de GDPR geeft personen het recht om geautomatiseerde beslissingen met aanzienlijke gevolgen te betwisten — onderwijsplaatsing en beoordeling voldoen hier duidelijk aan. De transparantie van artikel 13 stelt de instelling in staat deze uitleg te verstrekken.
Regelgevende overlappingen
De transparantie van onderwijs-AI overlapt met de gegevensbescherming van kinderen, het antidiscriminatierecht en nationale onderwijsregelgeving. Artikel 13 moet worden afgestemd op deze overlappende verplichtingen.
GDPR-artikelen 13/14 en artikel 22 — Gegevens van kinderen
De GDPR vereist duidelijke, eenvoudige taal bij het verstrekken van informatie aan kinderen (Overweging 58). Informatie over de AI-verwerking van gegevens van kinderen moet leeftijdsgericht zijn. Artikel 22 van de GDPR geeft het recht om geautomatiseerde beslissingen te betwisten — onderwijs-AI-beslissingen die de voortgang van een kind beïnvloeden, gelden als beslissingen met “vergelijkbare aanzienlijke gevolgen”.
Richtsnoeren van de Raad van Europa over AI in het onderwijs
De richtsnoeren van de Raad van Europa over AI en onderwijs benadrukken transparantie als kernprincipe en vereisen dat onderwijs-AI begrijpelijk is voor alle belanghebbenden, waaronder leerlingen, ouders en onderwijzers. Deze niet-bindende richtsnoeren informeren de nationale uitvoering en vullen de bindende vereisten van artikel 13 aan.
Nationaal onderwijsrecht en examenregelgeving
Veel EU-lidstaten hebben regelgeving voor exameneerlijkheid, beroep tegen cijfers en toelatingstransparantie. Wanneer AI in deze processen wordt gebruikt, moeten bestaande nationale transparantieverplichtingen (bijv. het recht om examenwerk in te zien en de beoordelingscriteria te begrijpen) worden uitgebreid met AI-specifieke informatie over de rol van het systeem.
UNESCO-aanbeveling over de ethiek van AI
De UNESCO-aanbeveling over de ethiek van AI benadrukt onderwijs als prioritair gebied dat transparantie vereist, met name wat betreft algoritmische vertekening bij beoordeling en het potentieel van AI om onderwijsongelijkheden te versterken. Deze principes informeren de geest van de uitvoering van artikel 13 in het onderwijs.
Veelvoorkomende schendingen die Scanara detecteert
AI-beoordeling zonder transparantie van criteria
Beoordelingseindpunten die scores of cijfers retourneren zonder begeleidende uitleg over welke beoordelingscriteria hebben bijgedragen aan het resultaat. Artikel 13(1) vereist interpreteerbare output — Scanara markeert beoordelings-API's die alleen numerieke scores retourneren zonder uitleg op rubriekniveau.
Ontbrekende AI-bekendmaking in leerlinggerichte interfaces
Leerplatforms en beoordelingstools die AI gebruiken zonder leerlingen of ouders te informeren. Scanara detecteert leerlinggerichte pagina's en API-eindpunten die AI-verwerking initiëren zonder een bekendmakingscomponent of kennisgevingsmechanisme.
Afwijzing van toelating zonder uitleg van factoren
Toelatingsbeslissingseindpunten die afwijzingsstatussen retourneren zonder uit te leggen welke factoren hebben bijgedragen aan de beslissing. Kandidaten en hun ouders moeten de basis voor een AI-ondersteunde toelatingsbeslissing kunnen begrijpen op grond van artikel 13 en artikel 22 van de GDPR.
Gebruiksaanwijzing zonder sectie over beperkingen
Systeemdocumentatie die de beoordelingsmogelijkheden van AI beschrijft zonder bekende beperkingen te documenteren, zoals taalvertekening, de omgang met culturele verwijzingen of nauwkeurigheidsvermindering bij niet-standaard inleverformaten. Artikel 13(3)(b)(i) vereist bekendmaking van beperkingen en voorzienbaar misbruik.
Nalevingschecklist artikel 13 voor het onderwijs
AI-beoordelingen interpreteerbaar maken voor onderwijzers
Zorg ervoor dat leerkrachten de basis voor AI-beoordelingsaanbevelingen kunnen begrijpen, inclusief welke criteria hebben bijgedragen aan de score en hoe ze zijn gewogen. Geef transparantie op rubriekniveau bij elke AI-beoordelingsoutput.
Leerlingen en ouders informeren over het AI-gebruik
Informeer leerlingen en ouders wanneer AI wordt gebruikt bij toelating, beoordeling of onderwijsplaatsing. Voor minderjarigen moeten kennisgevingen in duidelijke, niet-technische taal aan de ouders worden gericht.
Leeftijdsgerichte gebruiksaanwijzingen verstrekken
Documenteer de systeemmogelijkheden, beperkingen en beoogd gebruik in taal die begrijpelijk is voor ouders zonder technische achtergrond. Neem nauwkeurigheidsmetrieken, bekende vertekeningen en richtlijnen op over wanneer het oordeel van de onderwijzer AI-aanbevelingen terzijde moet stellen.
Betwisting van AI-beslissingen mogelijk maken
Zorg ervoor dat de op grond van artikel 13 verstrekte transparantie voldoende is voor leerlingen en ouders om AI-ondersteunde beslissingen te betwisten. De instelling moet de bijdrage van de AI aan elke beslissing die de onderwijsvoortgang beïnvloedt, kunnen uitleggen.
Beoordelingsnauwkeurigheid en beperkingen bekendmaken
Rapporteer de beoordelingsnauwkeurigheid, de betrouwbaarheid tussen beoordelaars met menselijke correctoren en bekende prestatievariaties over leerlingdemografieën, talen en inleverformaten heen. Documenteer de omstandigheden waaronder AI-beoordeling minder betrouwbaar kan zijn.
Veelgestelde vragen
Gerelateerde bronnen
Artikel 13: Transparantie
Volledige vereisten van artikel 13 in alle sectoren.
Onderwijs-AI — Sectorhub
Volledige EU AI Act-nalevingsgids voor onderwijs-AI-systemen.
Artikel 12: Registratie voor het onderwijs
Logging- en registratievereisten voor onderwijs-AI.
Artikel 14: Menselijk toezicht voor het onderwijs
Verplichtingen inzake menselijk toezicht voor onderwijs-AI-systemen.
Hoe Scanara helpt
Scanara automatiseert EU AI-verordening compliance van code tot dossier. Verbind uw GitHub-repos en ontvang compliance-rapporten in minuten.