Artikel 10: datagovernance voor HR-tech-AI — EU AI-verordening

De verordening stelt geen minimale omvang van data, geen quotum en geen lijst van beschermde groepen vast. Zij stelt kwaliteitscriteria en governancepraktijken vast.

• Datagovernancepraktijken

  De praktijken moeten passen bij het beoogde doel. Ze betreffen de ontwerpkeuzes, de dataverzameling en de herkomst van de data en, bij persoonsgegevens, het oorspronkelijke doel van de verzameling. Ze betreffen de voorbereiding van de data, zoals annotatie, labeling, opschoning, actualisering, verrijking en aggregatie. Ze betreffen ook de aannames over wat de data meten en weergeven en de beoordeling van de beschikbaarheid, hoeveelheid en geschiktheid van de datasets (artikel 10(2), punten a) tot en met e)).

• Onderzoek naar bias en maatregelen

  De praktijken betreffen ook het onderzoek naar bias die de gezondheid en veiligheid kan aantasten, grondrechten kan raken of tot verboden discriminatie kan leiden. Ze omvatten maatregelen om die bias op te sporen, te voorkomen en te beperken, en het vaststellen van datagebreken die naleving van de verordening in de weg staan (artikel 10(2), punten f) tot en met h)).

• Kwaliteit van de datasets

  Datasets moeten relevant, voldoende representatief en, voor zover mogelijk, foutloos en volledig zijn in het licht van het beoogde doel. Ze moeten de passende statistische kenmerken hebben, indien van toepassing ook met betrekking tot de personen of groepen personen ten aanzien van wie het systeem bedoeld is te worden gebruikt (artikel 10(3)).

• De gebruiksomgeving

  Datasets moeten, voor zover het beoogde doel dat vereist, rekening houden met de kenmerken die eigen zijn aan de geografische, contextuele, gedragsmatige of functionele omgeving van het gebruik (artikel 10(4)).

• Systemen zonder modeltraining

  Voor hoogrisico-AI-systemen die geen AI-modellen trainen, gelden artikel 10(2) tot en met (4) en artikel 4 bis(1) alleen voor de testdatasets (artikel 10(6)).

HR-technologie is geen categorie van de verordening. Wat telt is het gebruik dat bijlage III, punt 4, noemt (“Werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid”).

• Punt 4, a): werving en selectie

  AI-systemen die bedoeld zijn om te worden gebruikt voor het werven of selecteren van natuurlijke personen, met name voor het plaatsen van gerichte vacatures, het analyseren en filteren van sollicitaties, en het beoordelen van kandidaten.

• Punt 4, b): arbeidsgerelateerde betrekkingen

  AI-systemen die bedoeld zijn om te worden gebruikt voor het nemen van besluiten die van invloed zijn op de voorwaarden van arbeidsgerelateerde betrekkingen, de bevordering of beëindiging van arbeidsgerelateerde contractuele betrekkingen, voor het toewijzen van taken op basis van individueel gedrag of persoonlijke eigenschappen of kenmerken, of voor het monitoren en evalueren van prestaties en gedrag van personen in dergelijke betrekkingen.

• Er is een uitzondering, en die geldt nooit voor profilering

  Een AI-systeem uit bijlage III is niet hoogrisico als het geen significant risico op schade voor de gezondheid, veiligheid of grondrechten van natuurlijke personen inhoudt, onder meer doordat het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt. De afwijking geldt alleen als aan een van de vier voorwaarden van artikel 6(3), punten a) tot en met d), is voldaan. Een systeem dat natuurlijke personen profileert, is altijd hoogrisico. Een aanbieder die meent dat zijn systeem niet hoogrisico is, moet zijn beoordeling documenteren voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld (artikel 6(4)). De Commissie moest uiterlijk 2 februari 2026 richtsnoeren met praktische voorbeelden verstrekken (artikel 6(5)).

• De ontwikkelaar van de software is de aanbieder, de werkgever die het gebruikt is een gebruiksverantwoordelijke

  De aanbieder is de natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die een AI-systeem ontwikkelt of laat ontwikkelen en het onder eigen naam of merk in de handel brengt of in gebruik stelt (artikel 3, punt 3). Aanbieders van hoogrisicosystemen moeten ervoor zorgen dat hun systemen voldoen aan de eisen van afdeling 2 (artikelen 8 tot en met 15) (artikel 16, punt a)). Een gebruiksverantwoordelijke is een natuurlijke of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die een AI-systeem onder eigen verantwoordelijkheid gebruikt, behalve wanneer het systeem wordt gebruikt in het kader van een persoonlijke niet-beroepsactiviteit (artikel 3, punt 4). Een werkgever die een HR-systeem gebruikt, is een gebruiksverantwoordelijke met de plichten van artikel 26. Een gebruiksverantwoordelijke wordt aanbieder als hij zijn naam of merk op een al in de handel gebracht hoogrisicosysteem plaatst, er een substantiële wijziging in aanbrengt of het beoogde doel van een systeem wijzigt zodat het een hoogrisicosysteem wordt (artikel 25(1)).

• Datums, oudere systemen en uitgesloten gebieden

  De eisen voor systemen uit bijlage III gelden vanaf 2 december 2027 (artikel 113, punt c), i)). Een AI-systeem met een hoog risico dat vóór die datum in de handel is gebracht of in gebruik is gesteld, valt er alleen onder als het vanaf die datum aanzienlijke ontwerpwijzigingen ondergaat. In elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111(2)). De verordening is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen (artikel 2(3)), noch op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel (artikel 2(6)), noch op onderzoek, testen of ontwikkeling voordat een systeem in de handel wordt gebracht of in gebruik wordt gesteld; testen onder reële omstandigheden is niet uitgesloten (artikel 2(8)). Zij is niet van toepassing op verplichtingen van gebruiksverantwoordelijken die natuurlijke personen zijn en AI-systemen gebruiken in het kader van een louter persoonlijke, niet-beroepsmatige activiteit (artikel 2(10)). AI-systemen onder vrije en opensourcelicenties vallen erbuiten, tenzij ze als hoogrisicosystemen of als systemen onder artikel 5 of 50 in de handel worden gebracht of in gebruik worden gesteld (artikel 2(12)).

• Artikel 4 bis staat bijzondere categorieën gegevens toe voor het opsporen van bias, onder voorwaarden

  Aanbieders van hoogrisicosystemen mogen bij wijze van uitzondering bijzondere categorieën van persoonsgegevens verwerken voor zover strikt noodzakelijk voor het opsporen en corrigeren van bias op grond van artikel 10(2), f) en g), als aan alle voorwaarden van artikel 4 bis(1) is voldaan, bijvoorbeeld dat andere data, ook synthetische of geanonimiseerde, het doel niet kunnen bereiken. Gebruiksverantwoordelijken van hoogrisicosystemen mogen dat doen op grond van artikel 4 bis(2), onder dezelfde voorwaarden en waarborgen. Artikel 4 bis(2) schept geen verplichting om zulke bias op te sporen en te corrigeren. De AVG blijft daarnaast van toepassing (artikel 2(7)).

• Werkgevers: invoergegevens onder hun controle

  Voor zover de gebruiksverantwoordelijke controle uitoefent over de invoergegevens, zorgt hij ervoor dat deze relevant en voldoende representatief zijn voor het beoogde doel van het hoogrisicosysteem (artikel 26(4)).

• Geen quotum, geen lijst van beschermde kenmerken, geen eerlijkheidsmetriek

  De verordening stelt geen quotum en geen regel voor demografische pariteit vast en artikel 10 noemt geen beschermde kenmerken; het verwijst naar discriminatie die op grond van het Unierecht verboden is (artikel 10(2), f)). Andere bepalingen noemen gevoelige kenmerken voor hun eigen doeleinden (artikel 5(1), g), bijlage III, punt 1, b)). De aanbieder bepaalt hoe hij bias onderzoekt en meet voor zijn beoogde doel.

• Voor artikel 10(4) bestaat een vermoeden van conformiteit

  Hoogrisico-AI-systemen die zijn getraind en getest op data die de specifieke geografische, gedragsmatige, contextuele of functionele omgeving weerspiegelen waarin ze bedoeld zijn te worden gebruikt, worden geacht te voldoen aan de relevante eisen van artikel 10(4) (artikel 42(1)).

• De verordening noemt geen norm; er zijn geharmoniseerde normen en richtsnoeren

  De verordening zelf noemt geen norm voor datakwaliteit. Zij vraagt rekening te houden met de algemeen erkende stand van de techniek (artikel 8(1)). Hoogrisico-AI-systemen die in overeenstemming zijn met geharmoniseerde normen waarvan de referenties in het Publicatieblad zijn bekendgemaakt, worden geacht te voldoen aan de eisen van afdeling 2 die door die normen worden bestreken (artikel 40(1)). De Commissie ontwikkelt richtsnoeren over de toepassing van de eisen van de artikelen 8 tot en met 15 (artikel 96(1), a)). Elke andere norm die een aanbieder gebruikt, is een vrijwillige ontwerpkeuze.

Dit zijn voorbeelden, geen eisen.

• Voorbeeld: representativiteit (artikel 10(3))

  De aanbieder van een tool die cv’s voorselecteert, controleert of zijn trainings-, validatie- en testdata de groepen kandidaten bevatten voor wie de tool bedoeld is, en legt elke lacune vast (artikel 10(2), h)).

• Voorbeeld: terugkoppelingslussen (artikel 10(2), f))

  Een rangschikkingstool die is getraind op eerdere wervingsbesluiten, kan eerdere patronen herhalen. De aanbieder onderzoekt dit, vooral wanneer de output van de tool de data beïnvloedt waarvan hij later leert.

• Artikel 10: datagovernance voor hoogrisico-AI

  Het artikel zoals de verordening het formuleert, voor alle sectoren.

• AI-verordening HR-tech: nalevingsgids

  Hoe de verordening AI voor werving, selectie en personeelsbeheer bereikt.

• Artikel 9: risicobeheer voor HR-tech-AI — EU AI-verordening

  Risicobeheer gedurende de hele levenscyclus voor HR-technologie.

• Artikel 13: transparantie voor HR-tech-AI — EU AI-verordening

  De gebruiksaanwijzing voor HR-technologie en wie kandidaten en werknemers informeert.