Artikel 26 voor HR-technologie: verplichtingen van gebruiksverantwoordelijken

Artikel 26 stelt deze verplichtingen aan gebruiksverantwoordelijken van hoogrisico-AI-systemen.

• art. 26(7)
  Werknemers en hun vertegenwoordigers informeren

  Gebruiksverantwoordelijken die werkgever zijn, moeten werknemersvertegenwoordigers en de betrokken werknemers, voordat ze een hoogrisico-AI-systeem op de werkplek in gebruik stellen of gebruiken, informeren dat zij aan het gebruik ervan worden blootgesteld. De informatie wordt, indien van toepassing, verstrekt overeenkomstig de regels en procedures van het Unierecht en het nationale recht en de praktijk inzake informatie aan werknemers en hun vertegenwoordigers.

• art. 26(1)
  Gebruiken volgens de gebruiksaanwijzing

  Passende technische en organisatorische maatregelen nemen om het systeem te gebruiken in overeenstemming met de gebruiksaanwijzing.

• art. 26(2)
  Menselijk toezicht toewijzen

  Het menselijk toezicht opdragen aan natuurlijke personen die over de nodige bekwaamheid, opleiding en autoriteit beschikken en de nodige ondersteuning krijgen.

• art. 26(4)
  Invoergegevens controleren

  Voor zover de gebruiksverantwoordelijke controle heeft over de invoergegevens, ervoor zorgen dat deze relevant en voldoende representatief zijn voor het beoogde doel.

• art. 26(5)
  Monitoren, informeren, opschorten

  De werking monitoren op basis van de gebruiksaanwijzing en in voorkomend geval aanbieders informeren. Als het gebruik overeenkomstig de gebruiksaanwijzing een risico in de zin van artikel 79, lid 1 kan opleveren, zonder onnodige vertraging de aanbieder of distributeur en de markttoezichtautoriteit informeren en het gebruik opschorten. Na een ernstig incident onmiddellijk eerst de aanbieder informeren, daarna de importeur of distributeur en de markttoezichtautoriteiten. Als de aanbieder niet bereikbaar is, is artikel 73 van overeenkomstige toepassing.

• art. 26(6)
  Logs bewaren

  De door het systeem automatisch gegenereerde logs bewaren, voor zover ze onder de controle van de gebruiksverantwoordelijke vallen, gedurende een periode die past bij het beoogde doel en ten minste zes maanden, tenzij het toepasselijke Unie- of nationale recht, met name inzake de bescherming van persoonsgegevens, anders bepaalt.

• art. 26(11)
  Personen informeren over besluiten die hen betreffen

  Bij systemen uit bijlage III die besluiten over natuurlijke personen nemen of daarbij helpen, die personen informeren dat het systeem op hen wordt gebruikt, onverminderd artikel 50.

• art. 26(8)
  Overheidsinstanties registreren zich

  Gebruiksverantwoordelijken die overheidsinstanties of instellingen, organen of instanties van de Unie zijn, moeten voldoen aan de registratieverplichtingen van artikel 49, die systemen uit bijlage III betreffen. Als zij constateren dat het systeem dat zij willen gebruiken niet in de EU-databank is geregistreerd, mogen zij het niet gebruiken en moeten zij de aanbieder of distributeur informeren.

• art. 26(9)
  Gegevensbeschermingseffectbeoordeling

  In voorkomend geval de door de aanbieder krachtens artikel 13 verstrekte informatie gebruiken voor de gegevensbeschermingseffectbeoordeling krachtens artikel 35 van Verordening (EU) 2016/679 of artikel 27 van Richtlijn (EU) 2016/680.

• art. 26(12)
  Met autoriteiten samenwerken

  Samenwerken met de bevoegde autoriteiten bij elke actie die zij ondernemen met betrekking tot het hoogrisicosysteem.

Artikel 26 bindt alleen gebruiksverantwoordelijken van hoogrisico-AI-systemen. De rijen hieronder tonen wanneer HR-AI hoogrisico wordt en wat dat voor een werkgever betekent.

• HR-technologie is geen categorie in de verordening

  De verordening kent geen categorie „HR-technologie”. Deze site gebruikt het woord voor AI die onder de verordening valt via bijlage III, punt 4 (werkgelegenheid, personeelsbeheer en toegang tot zelfstandige arbeid), en via het verbod in artikel 5, lid 1, punt f), om emoties op de werkplek af te leiden.

• Bijlage III, punt 4: werkgelegenheid en personeelsbeheer

  Bijlage III, punt 4, a), omvat AI-systemen die bedoeld zijn om te worden gebruikt voor de werving of selectie van natuurlijke personen, met name voor het plaatsen van gerichte vacatures, het analyseren en filteren van sollicitaties en het beoordelen van kandidaten. Punt b) omvat AI-systemen die bedoeld zijn om te worden gebruikt voor het nemen van besluiten die van invloed zijn op de voorwaarden van arbeidsgerelateerde betrekkingen, de bevordering of beëindiging van arbeidsgerelateerde contractuele betrekkingen, voor het toewijzen van taken op basis van individueel gedrag of persoonlijke eigenschappen of kenmerken, of voor het monitoren en beoordelen van de prestaties en het gedrag van personen in die betrekkingen. Een systeem uit bijlage III wordt alleen op grond van artikel 6, lid 3, niet als hoogrisico beschouwd, en de aanbieder moet die beoordeling documenteren voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld (artikel 6, lid 4). Artikel 6, lid 3, is nooit van toepassing wanneer het systeem profilering van natuurlijke personen uitvoert. Een aanbieder die concludeert dat zijn systeem uit bijlage III geen hoog risico inhoudt, valt onder de registratieverplichting van artikel 49, lid 2.

• Aanbieder en gebruiksverantwoordelijke

  De aanbieder, bijvoorbeeld een leverancier van HR-software, ontwikkelt het AI-systeem, of laat het ontwikkelen, en brengt het onder eigen naam in de handel of stelt het onder eigen naam in gebruik (artikel 3, punt 3). Een werkgever, wervingsbureau of ander orgaan dat een systeem onder eigen gezag gebruikt, is een gebruiksverantwoordelijke (artikel 3, punt 4). Een gebruiksverantwoordelijke wordt aanbieder als hij zijn naam of merk zet op een hoogrisicosysteem dat al in de handel is, een substantiële wijziging aanbrengt waardoor het een hoogrisicosysteem blijft, of het beoogde doel van een systeem dat geen hoog risico had zo wijzigt dat het een hoogrisicosysteem wordt (artikel 25, lid 1). De verordening is niet van toepassing op verplichtingen van gebruiksverantwoordelijken die natuurlijke personen zijn en AI-systemen gebruiken in het kader van een louter persoonlijke niet-beroepsactiviteit (artikel 2, lid 10).

• Emoties afleiden op de werkplek: artikel 5, lid 1, punt f)

  Artikel 5, lid 1, punt f), verbiedt het in de handel brengen, het voor dit specifieke doel in gebruik stellen en het gebruiken van AI-systemen om emoties van een natuurlijke persoon af te leiden op de werkplek en in onderwijsinstellingen, behalve wanneer het systeem bedoeld is om om medische of veiligheidsredenen te worden ingevoerd of in de handel te worden gebracht. De verordening definieert „werkplek” niet. Of een video-interview met een sollicitant onder het verbod valt, beantwoordt de tekst niet; vraag het aan een jurist en raadpleeg de richtsnoeren van de Commissie over verboden praktijken (artikel 96, lid 1, punt b)). De verplichting om blootgestelde personen te informeren in artikel 50, lid 3, staat daar los van en maakt een verboden gebruik niet rechtmatig.

• Grondrechteneffectbeoordeling (artikel 27)

  Artikel 27, lid 1, geldt voor gebruiksverantwoordelijken van hoogrisicosystemen als bedoeld in artikel 6, lid 2, met uitzondering van die op het gebied van punt 2 van bijlage III, die publiekrechtelijke organen zijn of particuliere entiteiten die openbare diensten verlenen, en voor gebruiksverantwoordelijken van systemen onder bijlage III, punt 5, b) en c). Een publiekrechtelijk orgaan dat een systeem onder punt 4 inzet, bijvoorbeeld voor werving bij de overheid, moet de beoordeling uitvoeren voordat het systeem wordt ingezet. Een particuliere werkgever die geen particuliere entiteit is die openbare diensten verleent, heeft voor een systeem onder punt 4 geen verplichting uit artikel 27; of een werkgever openbare diensten verleent, is een feitelijke vraag, vraag het aan een jurist.

• Sollicitanten en werknemers: artikelen 26, lid 11, en 86

  Gebruiksverantwoordelijken van systemen uit bijlage III die besluiten over natuurlijke personen nemen of daarbij helpen, moeten die personen informeren dat zij aan het gebruik van het systeem worden blootgesteld (artikel 26, lid 11); in HR zijn dat sollicitanten en werknemers. Een persoon die het voorwerp is van een besluit dat de gebruiksverantwoordelijke heeft genomen op basis van de output van een systeem uit bijlage III, met uitzondering van punt 2, en dat rechtsgevolgen heeft of hem op vergelijkbare wijze aanmerkelijk treft op een manier die hij als nadelig voor zijn gezondheid, veiligheid of grondrechten beschouwt, heeft het recht van de gebruiksverantwoordelijke duidelijke en zinvolle uitleg te krijgen over de rol van het AI-systeem in de besluitvormingsprocedure en over de voornaamste elementen van het genomen besluit (artikel 86, lid 1). Artikel 86 is alleen van toepassing voor zover dit recht niet anderszins in het Unierecht is bepaald (artikel 86, lid 3).

• Data

  Systemen uit bijlage III, punt 4, moeten aan deze verplichtingen voldoen vanaf 2 december 2027 (artikel 113, lid 3, punt c), i)). Een systeem dat vóór die datum in de handel is gebracht of in gebruik is gesteld, valt er alleen onder als het ontwerp daarna aanzienlijk wijzigt; in elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111, lid 2). Het verbod van artikel 5, lid 1, punt f), geldt sinds 2 februari 2025; de uitzondering in artikel 113, lid 3, punt a), heeft daar geen betrekking op.

• Boetes

  Overtredingen van de verplichtingen van aanbieders (artikel 16) en gebruiksverantwoordelijken (artikel 26) kunnen worden beboet met maximaal 15 miljoen EUR of, als de overtreder een onderneming is, maximaal 3 % van haar totale wereldwijde jaaromzet in het voorgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 4). Voor mkb-bedrijven, met inbegrip van start-ups, geldt het lagere bedrag als maximum voor elke boete (artikel 99, lid 6); hetzelfde geldt voor kleine midcapondernemingen (artikel 3, punt 14 ter, artikel 99, lid 6 bis). Elke lidstaat bepaalt in hoeverre boeten kunnen worden opgelegd aan overheidsinstanties en -organen die op zijn grondgebied zijn gevestigd (artikel 99, lid 8).

• Grenzen van het toepassingsgebied

  De verordening is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen (eerste zin van artikel 2, lid 3), noch op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek ontwikkeld en in gebruik gesteld zijn met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel (artikel 2, lid 6), noch op onderzoeks-, test- en ontwikkelingsactiviteiten voordat een systeem in de handel wordt gebracht of in gebruik wordt gesteld; testen onder reële omstandigheden vallen niet onder die uitsluiting (artikel 2, lid 8). Zij is niet van toepassing op AI-systemen die worden vrijgegeven onder vrije en opensourcelicenties, tenzij zij als hoogrisico-AI-systemen in de handel worden gebracht of in gebruik worden gesteld of onder artikel 5 of 50 vallen (artikel 2, lid 12).

• Geen aantallen voor personeel of opleiding

  Artikel 26 legt geen bezetting, opleidingsuren of kwalificatie vast voor de personen die toezicht houden op een HR-systeem. Het vereist de nodige bekwaamheid, opleiding, bevoegdheid en ondersteuning (artikel 26, lid 2). De Commissie ontwikkelt richtsnoeren over de toepassing van de eisen en verplichtingen van de artikelen 8 tot en met 15 en de artikelen 25 en 26 (artikel 96, lid 1, punt a)). Artikel 4 verplicht gebruiksverantwoordelijken, net als aanbieders, maatregelen te nemen om de AI-geletterdheid van hun personeel en van andere personen die namens hen met het gebruik van AI-systemen te maken hebben te bevorderen; een specifiek niveau hoeven zij niet te garanderen (artikel 4, lid 1).

• Wie het aannamebesluit neemt

  Artikel 26 zegt niet dat een mens het definitieve aannamebesluit moet nemen. Het vereist menselijk toezicht door natuurlijke personen met de nodige bekwaamheid, opleiding en bevoegdheid, en de hierboven beschreven rechten op informatie en uitleg. Het Unierecht inzake de bescherming van persoonsgegevens geldt naast de verordening (artikel 2, lid 7). Artikel 85 staat iedere persoon die redenen heeft om te denken dat de verordening is geschonden toe een klacht in te dienen bij de relevante markttoezichtautoriteit, onverminderd andere rechtsmiddelen (artikel 85).

• Nationale regels voor werknemers

  Artikel 2, lid 11, belet de Unie of de lidstaten niet wettelijke of bestuursrechtelijke bepalingen te handhaven of in te voeren die gunstiger zijn voor werknemers wat betreft de bescherming van hun rechten bij het gebruik van AI-systemen door werkgevers, noch om de toepassing van collectieve overeenkomsten die gunstiger zijn voor werknemers aan te moedigen of toe te staan. De verordening bevat geen medezeggenschapsrecht; artikel 26, lid 7, vereist alleen dat werknemersvertegenwoordigers en de betrokken werknemers worden geïnformeerd. Wat het nationale recht toevoegt, valt buiten deze pagina.

• Logs en persoonsgegevens

  Artikel 26, lid 6, stelt ten minste zes maanden voor logs onder de controle van de gebruiksverantwoordelijke en wijkt voor ander Unierecht of nationaal recht, met name inzake de bescherming van persoonsgegevens. De verordening noemt geen bewaartermijn voor gegevens van sollicitanten of werknemers.

• Artikel 26: verplichtingen van gebruiksverantwoordelijken van hoogrisico-AI

  Artikel 26 voor alle sectoren: wie gebruiksverantwoordelijke is, de verplichtingen, artikel 27 en boetes.

• AI-verordening HR-tech: nalevingsgids

  Overzicht van HR-technologie: hoe de verordening AI voor werving en personeelsbeheer raakt.

• Artikel 50 voor HR-technologie: transparantie en het verbod om emoties af te leiden

  HR-AI en artikel 50: chatbots, emotieherkenning en het verbod om emoties op het werk af te leiden.

• Bijlage III uitgediept: alle 8 hoog-risico categorieën

  Hoe bijlage III AI-systemen tot hoogrisicosystemen maakt, waaronder werkgelegenheid en personeelsbeheer.