Artikel 26: plichten gebruiksverantwoordelijken — onderwijs
Plichten van gebruiksverantwoordelijken (artikel 26, EU AI-verordening) voor scholen en universiteiten — docententraining, ouderkennisgeving, kindergegevens en FRIA.
Artikel 26 van de EU-AI-verordening legt verplichtingen op aan gebruiksverantwoordelijken — organisaties die AI-systemen met een hoog risico gebruiken die door derden zijn ontwikkeld. In het onderwijs zijn gebruiksverantwoordelijken scholen, universiteiten, examencommissies en onderwijsautoriteiten die AI-gestuurde hulpmiddelen bij edtech-leveranciers aanschaffen voor de beoordeling van leerlingen, adaptief leren, plagiaatdetectie of toelatingsselectie. Deze instellingen dragen de directe verantwoordelijkheid voor de naleving met betrekking tot de wijze waarop AI-hulpmiddelen in onderwijssituaties worden gebruikt, ook al hebben zij de technologie niet zelf gebouwd.
Gebruiksverantwoordelijken in het onderwijs hebben te maken met verscherpte verplichtingen omdat hun AI-systemen kinderen en jongeren treffen — kwetsbare betrokkenen op grond van de AVG. Een DPIA is verplicht bij de inzet van AI in onderwijssituaties waarbij minderjarigen betrokken zijn, en ouders of voogden moeten op de hoogte worden gesteld van AI-hulpmiddelen die in het onderwijs van hun kind worden gebruikt. Deze pagina legt uit wat artikel 26 vereist van onderwijsinstellingen, hoe het samenhangt met de gegevensbeschermings- en onderwijswetgeving en welke nalevingslacunes Scanara detecteert.
Wie is gebruiksverantwoordelijke in het onderwijs?
Scholen en schoolbesturen
Basisscholen en middelbare scholen die AI-gestuurde hulpmiddelen inzetten voor de beoordeling van leerlingen, leeranalyse of gedragsmonitoring. Schoolbesturen die AI-platforms centraal aanschaffen, zijn gebruiksverantwoordelijken met verplichtingen op grond van artikel 26 voor alle scholen die deze hulpmiddelen gebruiken.
Universiteiten en hoger onderwijs
Universiteiten die AI van derden gebruiken voor het scoren van toelatingen, het geautomatiseerd nakijken van essays, plagiaatdetectie (bijv. Turnitin) of adaptieve leerplatforms. Elke instelling die deze hulpmiddelen inzet, is een gebruiksverantwoordelijke, ongeacht of de aanschaf centraal was.
Examen- en certificeringsinstanties
Organisaties die AI gebruiken voor geautomatiseerde examenbeoordeling, toezicht of certificeringsbeoordeling. Deze gebruiksverantwoordelijken nemen beslissingen met grote gevolgen over onderwijsprestaties en moeten robuust menselijk toezicht op AI-ondersteunde beoordeling waarborgen.
Onderwijsministeries en -autoriteiten
Overheidsinstanties voor onderwijs die AI inzetten voor het analyseren van schoolprestaties, de toewijzing van middelen of vroegtijdige waarschuwingssystemen voor het risico van voortijdig schoolverlaten. Als publiekrechtelijke instanties moeten deze gebruiksverantwoordelijken een FRIA uitvoeren vóór de inzet.
Onlineleerplatforms
Onderwijsinstellingen die AI-bijlessystemen van derden, adaptieve leermotoren of gepersonaliseerde aanbevelingssystemen van commerciële edtech-aanbieders gebruiken. De instelling die het platform in licentie geeft voor gebruik door leerlingen is de gebruiksverantwoordelijke.
Belangrijkste verplichtingen van gebruiksverantwoordelijken voor het onderwijs
Artikel 26 vereist dat gebruiksverantwoordelijken AI-systemen gebruiken conform de instructies van de aanbieder, menselijk toezicht toewijzen en de werking monitoren. Voor het onderwijs wegen deze verplichtingen extra zwaar omdat de betrokken personen vaak kinderen zijn met een beperkt vermogen om AI-beslissingen te begrijpen of aan te vechten.
Scholing van leerkrachten over AI-hulpmiddelen
Gebruiksverantwoordelijken moeten menselijk toezicht toewijzen aan personen met de nodige competentie, opleiding en bevoegdheid. In het onderwijs betekent dit dat leerkrachten moeten worden opgeleid om AI-hulpmiddelen op passende wijze te gebruiken, te herkennen wanneer AI-uitvoer onjuist is en AI-aanbevelingen te overrulen. De opleiding moet de specifieke mogelijkheden en bekende beperkingen van het AI-systeem omvatten.
Kennisgeving aan ouders en voogden
Voor AI-hulpmiddelen die met minderjarigen worden gebruikt, moeten ouders of wettelijke voogden worden geïnformeerd over de AI-systemen die in het onderwijs van hun kind worden ingezet. Dit omvat het doel van de AI, welke gegevens deze verwerkt en hoe AI-uitvoer wordt gebruikt in onderwijsbeslissingen. Dit reikt verder dan artikel 26 tot de AVG-vereisten inzake kindergegevens.
Effectbeoordeling op het gebied van de grondrechten
Openbare scholen en onderwijsautoriteiten moeten een FRIA uitvoeren voordat zij AI met een hoog risico inzetten. De beoordeling moet de gevolgen evalueren voor de rechten van kinderen op onderwijs, non-discriminatie, ontwikkeling en participatie. Particuliere scholen die door de overheid gefinancierd onderwijs aanbieden, kunnen ook verplicht zijn een FRIA uit te voeren.
Monitoring van leeftijdsadequaat gebruik
Gebruiksverantwoordelijken moeten de werking van het AI-systeem monitoren op basis van de instructies van de aanbieder. In het onderwijs omvat dit het verifiëren dat het AI-hulpmiddel geschikt is voor de leeftijdsgroep en het cognitieve niveau van de leerling en dat het geen uitvoer produceert die schadelijk, misleidend of ontwikkelingsongeschikt is.
Overlappende regelgeving
Gebruiksverantwoordelijken in het onderwijs moeten de EU-AI-verordening naleven naast de AVG-beschermingen voor kindergegevens, nationale onderwijswetten en de richtsnoeren van de Raad van Europa over AI in het onderwijs. De overlap creëert een gelaagde nalevingsverplichting.
AVG art. 8 — Kindergegevens
De AVG biedt specifieke beschermingen voor de persoonsgegevens van kinderen, waaronder vereisten voor ouderlijke toestemming voor diensten van de informatiemaatschappij. Het inzetten van AI die leerlinggegevens verwerkt, activeert deze beschermingen naast de verplichtingen van gebruiksverantwoordelijken uit artikel 26. Toestemmingsmechanismen moeten zo worden ontworpen dat ze begrijpelijk zijn voor ouders en, waar passend, voor de leerlingen zelf.
AVG art. 35 — DPIA voor kwetsbare betrokkenen
Een DPIA is verplicht bij het verwerken van gegevens van kinderen of het gebruik van nieuwe technologieën in onderwijssituaties. Deze staat los van de FRIA van de AI-verordening, maar behandelt overlappende punten. Gebruiksverantwoordelijken in het onderwijs moeten beide beoordelingen parallel uitvoeren en ervoor zorgen dat elke regelgevingsvereiste afzonderlijk wordt behandeld.
Nationale onderwijswetten
De lidstaten hebben onderwijswetten die beoordelingsnormen, rechten van leerlingen en informatierechten van ouders regelen. Sommige rechtsgebieden beperken geautomatiseerde besluitvorming bij onderwijsbeoordeling of vereisen specifieke goedkeuringen voordat technologie in klaslokalen wordt ingezet. Deze vereisten komen bovenop artikel 26.
Richtsnoeren van de Raad van Europa over AI in het onderwijs
De Raad van Europa heeft richtsnoeren over AI in het onderwijs uitgebracht die de nadruk leggen op transparantie, autonomie van de lerende en versterking van de leerkracht. Hoewel niet juridisch bindend, informeren deze richtsnoeren de beste praktijken en kunnen zij van invloed zijn op de wijze waarop toezichthoudende autoriteiten de verplichtingen van gebruiksverantwoordelijken uit artikel 26 in onderwijssituaties interpreteren.
Veelvoorkomende overtredingen die Scanara detecteert
Geen loggingconfiguratie voor edtech-AI-gebeurtenissen
AI-beoordelings- of adaptieve leerhulpmiddelen die worden ingezet zonder logginginfrastructuur die AI-invoer, -uitvoer en -beslissingen vastlegt. Scanara markeert onderwijsinzetten waar geen audittrail bestaat voor door AI ondersteunde beoordelings- of leerlingprofileringsbeslissingen.
AI van derden ingezet zonder FRIA-documentatie
Openbare scholen of onderwijsautoriteiten die AI-hulpmiddelen inzetten zonder een gedocumenteerde effectbeoordeling op het gebied van de grondrechten. Scanara detecteert inzetten van AI met een hoog risico in openbare onderwijssituaties waar vóór het gebruik in contact met leerlingen geen FRIA is vastgelegd.
Rol van menselijk toezicht niet formeel toegewezen
AI-beoordelings- of toetsingshulpmiddelen die worden ingezet zonder formeel aan te wijzen welke leerkrachten of academisch personeel AI-uitvoer beoordelen voordat er ingrijpende beslissingen worden genomen. Scanara identificeert inzetten waar geen roltoewijzing getrainde onderwijzers koppelt aan AI-toezichtverantwoordelijkheden.
Geen ouderkennisgeving voor AI-gebruik met minderjarigen
AI-hulpmiddelen die leerlinggegevens verwerken en worden ingezet zonder gedocumenteerde kennisgeving aan ouders of voogden. Scanara markeert inzetten in het primair en voortgezet onderwijs waar geen mechanisme voor ouderkennisgeving of -toestemming is geïmplementeerd voor het gebruik van het AI-systeem.
Nalevingschecklist artikel 26 voor het onderwijs
Gebruik conform de gebruiksaanwijzing
Verifieer dat AI-hulpmiddelen worden gebruikt binnen het door de leverancier verklaarde toepassingsgebied — juiste leeftijdsgroepen, vakken en toetsingstypen. Documenteer elk gebruik buiten het beoogde toepassingsgebied.
Scholing en toezicht van leerkrachten
Scholing leerkrachten over de mogelijkheden en beperkingen van AI-hulpmiddelen. Wijs formeel toezichtrollen toe met gedocumenteerde bevoegdheid om AI-uitvoer bij beoordelings- en leerlingprofileringsbeslissingen te overrulen.
Incidentmelding
Zet een proces op voor het melden van AI-storingen aan de edtech-aanbieder en de bevoegde autoriteit. Neem criteria op voor wat een ernstig incident vormt in een onderwijscontext.
Operationele logging
Configureer logging voor door AI ondersteunde beoordelingsbeslissingen en leeranalyse. Bewaar logs voor academische bezwaren, regelgevingsinspectie en informatieverzoeken van ouders.
Effectbeoordeling op het gebied van de grondrechten
Voer een FRIA uit voordat u AI in openbare onderwijssituaties inzet. Behandel de rechten van kinderen op onderwijs, non-discriminatie, ontwikkeling en participatie.
Veelgestelde vragen
Gerelateerde bronnen
Artikel 26: verplichtingen van gebruiksverantwoordelijken
Volledige vereisten voor gebruiksverantwoordelijken uit artikel 26 in alle sectoren.
AI in het onderwijs — sectorhub
Volledige nalevingsgids voor de EU-AI-verordening voor AI-systemen in het onderwijs.
Artikel 9: risicobeheer voor het onderwijs
Vereisten voor het risicobeheersysteem voor gebruiksverantwoordelijken en aanbieders van AI in het onderwijs.
Artikel 13: transparantie voor het onderwijs
Transparantie- en informatieverplichtingen voor AI-systemen in het onderwijs.
Hoe Scanara helpt
Scanara automatiseert EU AI-verordening compliance van code tot dossier. Verbind uw GitHub-repos en ontvang compliance-rapporten in minuten.