Artikel 50 voor AI in het onderwijs: transparantie en openbaarmaking

Elk lid noemt wie moet bekendmaken. Elk lid heeft ook een uitzondering voor gebruik dat bij wet is toegestaan om strafbare feiten op te sporen, te voorkomen, te onderzoeken of te vervolgen; de leden 1 en 3 koppelen daar voorwaarden aan.

• art. 50(1)
  Systemen die met mensen interageren (aanbieder)

  Aanbieders moeten systemen die bedoeld zijn om rechtstreeks met natuurlijke personen te interageren zo ontwerpen dat die personen worden geïnformeerd dat zij met een AI-systeem interageren, tenzij dit duidelijk is vanuit het oogpunt van een redelijk geïnformeerde, oplettende en omzichtige natuurlijke persoon, gezien de omstandigheden en de gebruikscontext.

• art. 50(2)
  Synthetische output markeren (aanbieder)

  Aanbieders van systemen die synthetische audio-, beeld-, video- of tekstinhoud genereren, moeten ervoor zorgen dat de outputs worden gemarkeerd in een machineleesbaar formaat en detecteerbaar zijn als kunstmatig gegenereerd of gemanipuleerd. De verplichting geldt niet voor zover het systeem een ondersteunende functie voor standaardbewerking vervult of de inputdata of de semantiek daarvan niet substantieel wijzigt.

• art. 50(3)
  Emotieherkenning en biometrische categorisering (gebruiksverantwoordelijke)

  Gebruiksverantwoordelijken van een systeem voor het herkennen van emoties of voor biometrische categorisering moeten de daaraan blootgestelde natuurlijke personen informeren over de werking van het systeem en persoonsgegevens verwerken in overeenstemming met het toepasselijke gegevensbeschermingsrecht.

• art. 50(4)
  Deepfakes en gepubliceerde tekst (gebruiksverantwoordelijke)

  Gebruiksverantwoordelijken van een systeem dat beeld-, audio- of videocontent genereert of manipuleert die een deepfake vormt, moeten bekendmaken dat de content kunstmatig is gegenereerd of gemanipuleerd. Hetzelfde geldt voor tekst die wordt gepubliceerd om het publiek te informeren over aangelegenheden van algemeen belang, tenzij de tekst menselijke toetsing of redactionele controle heeft ondergaan en een persoon de redactionele verantwoordelijkheid draagt. Bij een kennelijk artistiek, creatief, satirisch of fictief werk beperkt de verplichting zich tot het op passende wijze bekendmaken van het bestaan van gegenereerde content, zonder het tonen of genieten van het werk te hinderen.

• art. 50(5)
  Hoe en wanneer informeren

  De informatie moet duidelijk en te onderscheiden zijn, uiterlijk bij het eerste contact of de eerste blootstelling worden verstrekt en voldoen aan de toepasselijke toegankelijkheidseisen (artikel 50, lid 5).

Het gaat erom wat het systeem doet, niet in welke bijlage het staat.

• Waar onderwijs in de verordening staat

  De verordening kent geen sectorbreed regime voor onderwijs. Deze site gebruikt ‘onderwijs’ voor AI op scholen, universiteiten, in beroepsopleidingen en bij examens. Artikel 50 hangt niet af van een sector of bijlage: het geldt voor wat een systeem doet, ongeacht of het een hoog risico vormt.

• Hoogrisicosystemen dragen beide sets verplichtingen

  Een toelatingsscoresysteem dat een hoog risico vormt op grond van bijlage III, punt 3, a), en ook een chatinterface heeft, heeft de verplichtingen van artikel 50 sinds 2 augustus 2026 en die van hoofdstuk III vanaf 2 december 2027. Artikel 50 laat de eisen van hoofdstuk III onverlet (artikel 50, lid 6).

• Voorbeelden per lid

  Voorbeeld: een bijles-chatbot of een assistent voor toelatingsvragen komt rechtstreeks in contact met natuurlijke personen (artikel 50, lid 1). Voorbeeld: een systeem dat lesteksten of afbeeldingen genereert, genereert synthetische inhoud en valt onder de markeringsplicht van de aanbieder (artikel 50, lid 2); een school die het alleen gebruikt, is gebruiksverantwoordelijke, en haar plichten komen, waar ze gelden, uit artikel 50, leden 3 en 4, niet uit artikel 50, lid 2.

• Emoties afleiden in onderwijsinstellingen

  Artikel 5, lid 1, punt f) verbiedt AI-systemen die emoties van een natuurlijke persoon afleiden op de werkplek en in onderwijsinstellingen, behalve wanneer het systeem om medische of veiligheidsredenen in gebruik wordt gesteld of in de handel wordt gebracht. Het verbod geldt sinds 2 februari 2025 (artikel 113, punt a)). Overtredingen van artikel 5 kunnen worden beboet met maximaal 35 miljoen EUR of, voor een onderneming, maximaal 7 % van de totale wereldwijde jaaromzet over het voorgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 3). Voorbeeld: tijdens een les emoties van studenten afleiden uit camerabeelden valt onder het verbod. Het verbod betreft het afleiden van emoties; toetsbewaking als zodanig staat in bijlage III, punt 3, d) als gebruik met een hoog risico. Wanneer een systeem voor emotieherkenning is toegestaan, moeten gebruiksverantwoordelijken de blootgestelde personen informeren (artikel 50, lid 3).

• Data

  Artikel 113 laat de verordening gelden vanaf 2 augustus 2026; hoofdstuk IV, dat artikel 50 bevat, hoort niet bij de bepalingen waarvoor de punten a) tot en met d) een andere datum noemen. Aanbieders van systemen die synthetische content genereren en vóór die datum in de handel zijn gebracht, moeten de nodige stappen zetten om uiterlijk 2 december 2026 aan artikel 50, lid 2, te voldoen (artikel 111, lid 4). De verordening kent geen overgangsperiode voor artikel 50, leden 1, 3 en 4.

• Boetes

  Overtredingen van de transparantieverplichtingen van aanbieders en gebruiksverantwoordelijken in artikel 50 kunnen worden beboet met maximaal 15 miljoen EUR of, voor een onderneming, maximaal 3 % van haar totale wereldwijde jaaromzet in het voorgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 4, punt g)). Voor mkb-bedrijven, met inbegrip van start-ups, geldt het lagere bedrag als maximum voor elke boete (artikel 99, lid 6). Hetzelfde maximum geldt voor kleine midcapondernemingen (artikel 3, punt 14 ter, artikel 99, lid 6 bis). Elke lidstaat stelt regels vast over de mate waarin administratieve boetes kunnen worden opgelegd aan in die lidstaat gevestigde overheidsinstanties en -organen (artikel 99, lid 8).

• Grenzen van het toepassingsgebied van de verordening

  De verordening is van toepassing op aanbieders die AI-systemen in de Unie in de handel brengen of in gebruik stellen, of AI-modellen voor algemene doeleinden in de Unie in de handel brengen, ongeacht waar zij zijn gevestigd (artikel 2, lid 1, punt a)), en op aanbieders en gebruiksverantwoordelijken in een derde land wanneer de output van het AI-systeem in de Unie wordt gebruikt (punt c)). Zij is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen en doet geen afbreuk aan de bevoegdheden van de lidstaten op het gebied van nationale veiligheid; zij is evenmin van toepassing op AI-systemen die uitsluitend voor militaire doeleinden, defensiedoeleinden of doeleinden van nationale veiligheid worden gebruikt (artikel 2, lid 3). De verordening is niet van toepassing op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel (artikel 2, lid 6). Ze is ook niet van toepassing op onderzoeks-, test- en ontwikkelingsactiviteiten voordat een systeem of model in de handel wordt gebracht of in gebruik wordt gesteld; testen onder reële omstandigheden valt niet onder die uitsluiting (artikel 2, lid 8). Zij is niet van toepassing op verplichtingen van gebruiksverantwoordelijken die natuurlijke personen zijn die AI-systemen gebruiken in het kader van een louter persoonlijke niet-professionele activiteit (artikel 2, lid 10). Zij is niet van toepassing op AI-systemen die onder vrije en opensourcelicenties worden vrijgegeven, tenzij zij als hoogrisicosysteem of als AI-systeem dat onder artikel 5 of 50 valt in de handel worden gebracht of in gebruik worden gesteld (artikel 2, lid 12).

• Geen regel voor het onderwijs, geen labelformaat

  Artikel 50 bevat geen regel specifiek voor het onderwijs. Het noemt geen formulering of pictogram; de markeringsplicht vraagt om een machineleesbaar formaat en detecteerbaarheid, rekening houdend met de algemeen erkende stand van de techniek, zoals die kan blijken uit relevante technische normen (artikel 50, lid 2). De Commissie ontwikkelt richtsnoeren over artikel 50 (artikel 96, lid 1, punt d)).

• Praktijkcodes

  De Commissie moedigt het opstellen van praktijkcodes voor het detecteren, markeren en labelen van kunstmatig gegenereerde of gemanipuleerde content aan en vergemakkelijkt dit, en beoordeelt of naleving van een code volstaat om de naleving van artikel 50, leden 2 en 4, te waarborgen. Als zij een code ontoereikend acht, kan zij een uitvoeringshandeling vaststellen met gemeenschappelijke regels (artikel 50, lid 7). Het artikel maakt naleving niet verplicht.

• Menselijke toetsing

  De uitzondering voor menselijke toetsing of redactionele controle staat in artikel 50, lid 4, voor gepubliceerde tekst. Artikel 50, lid 2, kent haar niet; de uitzonderingen daar zijn ondersteunende standaardbewerking, geen substantiële wijziging van de inputdata of de semantiek daarvan en toestemming bij wet voor strafrechtelijke doeleinden.

• Geen etiketteringsplicht voor lesmateriaal

  Artikel 50 noemt geen plicht die specifiek is voor lesplannen, feedback of cijfers. Een openbaarmakingsplicht van de gebruiksverantwoordelijke ontstaat alleen in de gevallen van artikel 50, lid 3 (emotieherkenning en biometrische categorisering) en artikel 50, lid 4 (deepfakes en gepubliceerde tekst over zaken van algemeen belang). Informatie aan personen die aan een hoogrisicosysteem zijn onderworpen, bijvoorbeeld bij toelatings- of examenbesluiten, komt uit artikel 26, lid 11, niet uit artikel 50, lid 1.

• Informatieplichten in het onderwijsrecht en het gegevensbeschermingsrecht

  Artikel 50 doet geen afbreuk aan andere transparantieverplichtingen voor gebruiksverantwoordelijken uit Unie- of nationaal recht (artikel 50, lid 6). Of onderwijs- of gegevensbeschermingsrecht meer informatie aan studenten of ouders vereist, beantwoordt de verordening niet.

• Artikel 50: transparantie- en bekendmakingsplicht

  Artikel 50 voor alle sectoren: de vier verplichtingen, uitzonderingen, data en boetes.

• AI-verordening edtech: naleving in onderwijs

  Het overzicht voor het onderwijs: hoe de verordening AI op scholen, universiteiten en in opleidingen bereikt.

• Artikel 53 in het onderwijs: verplichtingen van aanbieders van AI-modellen voor algemene doeleinden

  AI in het onderwijs en artikel 53: modelaanbieders, documentatie, auteursrecht en samenvatting van de trainingsdata.

• Verboden AI-praktijken volgens artikel 5 AI-verordening

  De verboden praktijken, waaronder het afleiden van emoties op het werk en in het onderwijs.