Artikel 17: kwaliteitsmanagement voor HR-tech-AI

Hoe kwaliteitsmanagement volgens artikel 17 van de EU AI-verordening geldt voor HR-tech-AI — een KMS voor wervingsalgoritmen, bias-auditprocedures en naleving voor arbeids-AI.

Gepubliceerd 2 april 2026

Artikel 17 van de EU AI Act verplicht aanbieders van AI-systemen met een hoog risico om een kwaliteitsmanagementsysteem (KMS) op te zetten en te onderhouden. Voor HR-tech-bedrijven is dit vaak een geheel nieuwe verplichting — anders dan in de gezondheidszorg of de automobielsector hanteren de meeste HR-technologieleveranciers geen bestaand formeel KMS-kader. Op grond van bijlage III, afdeling 4, worden AI-systemen die worden gebruikt bij werving, kandidaatscreening, promotiebeslissingen en personeelsbeheer als hoog risico ingedeeld en vallen zij onder de volledige reikwijdte van artikel 17.

Deze pagina legt uit welke KMS-elementen HR-tech-aanbieders moeten implementeren, hoe kwaliteitsmanagementprocessen voor AI-wervings- en personeelstools kunnen worden gestructureerd, en welke KMS-proceslacunes op codeniveau Scanara in HR-tech-AI-systemen detecteert.

Vereiste KMS-componenten voor HR-tech-AI

Goedkeuringsproces voor modelversies

Een gedocumenteerd proces dat vastlegt wie de bevoegdheid heeft om nieuwe modelversies goed te keuren voor productie-inzet, welk validatiebewijs vóór goedkeuring vereist is (resultaten van bias-tests, nauwkeurigheidsmetrieken, fairnessrapporten) en welke terugrolprocedures bestaan. Anders dan in de gezondheidszorg moeten de meeste HR-tech-bedrijven dit proces vanaf nul opzetten.

Geplande bias-auditprocedures

Bias-testen moeten een gedocumenteerd, gepland KMS-proces zijn — geen ad-hocactiviteit. Bepaal de auditfrequentie (kwartaal aanbevolen), de te toetsen demografische groepen, statistische drempels voor aanvaardbaar ongelijk effect en corrigerende maatregelen die worden geactiveerd wanneer drempels worden overschreden. Zo wordt bias-testen van een best practice tot een formele kwaliteitsprocedure.

Wijzigingsbeheer voor modelupdates

Procedures die bepalen hoe modelwijzigingen (hertraining, wijzigingen van kenmerken, drempelaanpassingen) worden beoordeeld, goedgekeurd en uitgerold. Elke wijziging moet vóór goedkeuring van de uitrol een gedocumenteerde effectbeoordeling bevatten die nauwkeurigheid, fairness en mogelijke neerwaartse effecten op wervingsuitkomsten omvat.

Validatie van naleving van leveranciers-AI

Bij het gebruik van AI-tools van derden voor werving hebben gebruiksverantwoordelijken op grond van artikel 26 KMS-equivalente verplichtingen. Documenteer procedures voor het valideren van nalevingsclaims van leveranciers, het uitvoeren van onafhankelijke bias-tests van leverancierstools en het bewaren van bewijs van naleving door leveranciers als onderdeel van het KMS.

Klacht- en bezwaarprocedures voor kandidaten

Gedocumenteerde procedures voor het afhandelen van klachten van kandidaten over de uitkomsten van AI-beslissingen, met inbegrip van bezwaarprocedures, menselijke beoordelingsprocessen en escalatiepaden. Deze moeten terugkoppelen naar het KMS-proces voor corrigerende maatregelen wanneer klachtenpatronen wijzen op systemische kwaliteitsproblemen.

Belangrijkste KMS-verplichtingen voor HR-tech

Artikel 17 vereist schriftelijke beleidslijnen, procedures en instructies die de gehele AI-levenscyclus bestrijken. Voor HR-tech-aanbieders zonder bestaand KMS betekent dit het opbouwen van fundamentele kwaliteitsmanagementprocessen die zowel de algemene KMS-vereisten als de arbeidsspecifieke verplichtingen adresseren.

Ontwerpbeheersing voor wervingsalgoritmen

Artikel 17 vereist gedocumenteerde procedures voor ontwerpbeheersing en verificatie. Voor HR-tech betekent dit documenteren hoe wervingsalgoritmen worden ontworpen, welke kenmerken worden geselecteerd (en uitgesloten), hoe proxyvariabelen voor beschermde kenmerken worden geïdentificeerd en gemitigeerd, en hoe ontwerpbeslissingen worden geverifieerd aan de hand van fairnessvereisten.

Testen en valideren vóór uitrol

Schriftelijke procedures voor testen en valideren moeten nauwkeurigheidstests over functiecategorieën heen, bias-tests over demografische groepen heen en validatie aan de hand van historische wervingsuitkomsten omvatten. Validatieresultaten moeten worden gedocumenteerd en beoordeeld voordat een modelversie wordt goedgekeurd voor productiegebruik.

Markttoezicht na het in de handel brengen voor arbeids-AI

Continue monitoring van ingezette wervings-AI-systemen op prestatievermindering, opkomende bias-patronen en veranderingen in wervingsuitkomsten. De monitoring moet geautomatiseerde waarschuwingen omvatten wanneer verhoudingen van nadelig effect drempels overschrijden, alsook gedocumenteerde procedures om gedetecteerde problemen te onderzoeken en op te lossen.

Competentie en opleiding van personeel

Documenteer de vereiste competenties voor personeel dat wervings-AI-systemen ontwikkelt, uitrolt en monitort. Opleiding moet AI-fairnessbeginselen, antidiscriminatierecht, de specifieke KMS-procedures en het interpreteren van bias-auditresultaten omvatten. Bewaar opleidingsdossiers als KMS-documentatie.

Overlappende regelgeving

Hoewel HR-tech geen specifiek KMS-kader zoals ISO 13485 in de gezondheidszorg kent, overlappen verschillende wettelijke verplichtingen met artikel 17 en kunnen zij structuur bieden voor het opbouwen van een conform KMS.

ISO 42001 — AI-managementsystemen

ISO 42001 biedt het meest direct toepasbare kader voor HR-tech-bedrijven die een AI-Act-KMS opbouwen. Het bestrijkt AI-governance, risicobeheer, gegevensbeheer en prestatiemonitoring — nauw aansluitend bij de vereisten van artikel 17 en voorziet in een certificeerbare managementsysteemstructuur.

ISO 9001 — Algemeen KMS

ISO 9001 biedt het fundamentele KMS-kader (documentbeheer, directiebeoordeling, corrigerende maatregelen, interne audit) dat artikel 17 vereist. HR-tech-bedrijven zonder bestaand KMS zouden ISO 9001 als structurele ruggengraat moeten overwegen, uitgebreid met AI-specifieke en arbeidsspecifieke procedures.

Richtlijnen inzake gelijke behandeling

De EU-richtlijnen inzake gelijke behandeling (2000/43/EG, 2000/78/EG) verbieden discriminatie bij arbeid. KMS-procedures op grond van artikel 17 voor bias-testen en fairnessmonitoring ondersteunen rechtstreeks de naleving van deze richtlijnen. Het documenteren van bias-auditprocedures als onderdeel van het KMS creëert een controleerbaar spoor van antidiscriminatie-inspanningen.

AVG-verantwoordingsplicht (art. 5, lid 2)

Artikel 5, lid 2, van de AVG verplicht verwerkingsverantwoordelijken om de naleving van de beginselen inzake gegevensbescherming aan te tonen. De door artikel 17 vereiste KMS-procedures voor gegevensbeheer — die de selectie, verzameling, annotatie en opslag van gegevens bestrijken — overlappen met de AVG-verantwoordingsvereisten voor het documenteren van de rechtmatige verwerking van persoonsgegevens van kandidaten.

Veelvoorkomende overtredingen die Scanara detecteert

Geen modelversiebeheer of goedkeuringsworkflow

Uitrolpijplijnen die updates van wervingsmodellen naar productie sturen zonder versiemarkering, goedkeuringspoorten of gedocumenteerde ondertekening. Scanara markeert CI/CD-configuraties waarin modelartefacten rechtstreeks worden uitgerold zonder goedkeuringsworkflow — in strijd met de vereisten van artikel 17 inzake ontwerpbeheersing en verificatie.

Modelwijzigingen zonder effectbeoordeling

Hertraining van modellen, wijzigingen van kenmerken of drempelaanpassingen die worden uitgerold zonder een gedocumenteerde effectbeoordeling. Scanara detecteert modelupdatepijplijnen zonder stappen voor fairnesseffectbeoordeling of waarin wijzigingen worden uitgerold zonder de effecten op wervingsuitkomsten over demografische groepen heen te evalueren.

Geen gedocumenteerde modelvalidatieprocedure

Wervings-AI-systemen die worden uitgerold zonder een gedocumenteerde validatieprocedure die acceptatiecriteria voor nauwkeurigheid en fairness specificeert. Scanara identificeert uitrolinstanties zonder verwijzingen naar validatierapporten of bias-auditresultaten, of waarin validatiestappen volledig ontbreken in de uitrolworkflow.

Markttoezicht niet gekoppeld aan corrigerende maatregelen

Monitoringsystemen die wervingsuitkomsten of bias-metrieken volgen maar zonder geautomatiseerde escalatie naar een proces voor corrigerende maatregelen wanneer drempels worden overschreden. Scanara markeert monitoringconfiguraties waarin de detectie van nadelig effect geen gedocumenteerde onderzoeks- en herstelworkflows activeert.

Nalevingschecklist artikel 17 voor HR-tech

Art. 17(1)(a)

Strategie voor naleving van de regelgeving

Documenteer een strategie voor naleving van de AI Act die alle wervings-AI-systemen met een hoog risico bestrijkt. Bepaal welke systemen binnen de reikwijdte vallen, welke normen van toepassing zijn (ISO 42001, ISO 9001) en welk tijdschema geldt voor de KMS-implementatie.

Art. 17(1)(b)

Ontwerpbeheersing en verificatie

Stel procedures op voor het ontwerpen en verifiëren van wervingsalgoritmen, met inbegrip van de beoordeling van de kenmerkselectie, de detectie van proxyvariabelen en verificatieactiviteiten volgens het fairness-by-design-beginsel.

Art. 17(1)(c)

Test- en validatieprocedures

Definieer validatieprocedures met inbegrip van nauwkeurigheidstests, bias-audit over beschermde kenmerken heen en acceptatiecriteria waaraan vóór productie-inzet moet worden voldaan.

Art. 17(1)(e)

Procedures voor gegevensbeheer

Stel procedures op voor de selectie, verzameling, annotatie, opslag en filtering van kandidaatgegevens. Behandel de AVG-vereisten voor de verwerking van arbeidsgegevens en het bewaarbeleid voor gegevens.

Art. 17(1)(i)

Intern auditprogramma

Implementeer een intern auditprogramma dat de governance van AI-modellen, de naleving van bias-testen, de gegevensbeheerpraktijken en de doeltreffendheid van corrigerende maatregelen bestrijkt. Plan audits ten minste jaarlijks.

Veelgestelde vragen

Hoe Scanara helpt

Scanara automatiseert EU AI-verordening compliance van code tot dossier. Verbind uw GitHub-repos en ontvang compliance-rapporten in minuten.