Skip to main content

Artikel 10: datagovernance voor hoogrisico-AI

Artikel 10 van de AI Act: kwaliteitscriteria en datagovernance voor trainings-, validatie- en testdata van hoogrisico-AI-systemen, en de regel van artikel 4 bis voor biascorrectie.

Aanbieders van hoogrisico-AI-systemen die AI-modellen trainen, moeten datasets voor training, validatie en tests gebruiken die aan kwaliteitscriteria voldoen (artikel 10(1)). Die datasets vallen onder praktijken voor datagovernance, bijvoorbeeld een onderzoek naar bias (artikel 10(2)).

De regel geldt vanaf 2 december 2027 voor systemen uit bijlage III (opgesomde hoogrisicogebruiken). Voor producten uit bijlage I geldt hij vanaf 2 augustus 2028 (artikel 113, punt c). Producten uit afdeling B zijn uitgesloten (artikel 2(2)). Boetes voor overtredingen bedragen tot 15 miljoen EUR of 3 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Volgende stap: noteer de herkomst van elke dataset en uw biascontroles.

Artikel 10(2) noemt acht praktijken, hier gegroepeerd in vijf gebieden

Ontwerpkeuzes en herkomst van de data

De praktijken moeten betrekking hebben op de relevante ontwerpkeuzes, hoe de data is verzameld, waar ze vandaan komt en, bij persoonsgegevens, met welk doel ze oorspronkelijk is verzameld (artikel 10(2), punten a) en b)).

Gegevensvoorbereiding

Regel annotatie, labeling, opschoning, actualisering, verrijking en aggregatie (artikel 10(2), punt c)).

Aannames en geschiktheid

Leg vast wat de data moet meten en weergeven, en beoordeel of er genoeg geschikte data beschikbaar is (artikel 10(2), punten d) en e)).

Onderzoek naar bias en maatregelen

Onderzoek de data op bias die de gezondheid of veiligheid kan aantasten, grondrechten kan raken of tot verboden discriminatie kan leiden. Neem maatregelen om bias op te sporen, te voorkomen en te beperken (artikel 10(2), punten f) en g)).

Datagaten en tekortkomingen

Stel gaten of tekortkomingen vast die naleving van de verordening in de weg staan, en hoe u ze kunt aanpakken (artikel 10(2), punt h)).

Traint een hoogrisico-AI-systeem geen AI-modellen, dan gelden deze regels alleen voor de datasets voor tests (artikel 10(6)).

De datasets moeten aan drie kwaliteitscriteria voldoen

Relevant, representatief, foutvrij, volledig

Datasets moeten relevant en voldoende representatief zijn en, voor zover mogelijk, foutenvrij en volledig met het oog op het beoogde doel (artikel 10(3)).

Passende statistische eigenschappen

Ze moeten passende statistische eigenschappen hebben, ook ten aanzien van de personen of groepen personen ten aanzien van wie het systeem zal worden gebruikt (artikel 10(3)).

Afgestemd op de gebruiksomgeving

Ze moeten de geografische, contextuele, gedragsmatige of functionele omgeving van het gebruik weerspiegelen, voor zover het beoogde doel dat vereist (artikel 10(4)).

Vier engineeringpraktijken die bewijs voor artikel 10 opleveren

Artikel 10 schrijft geen hulpmiddelen voor. Deze vier praktijken zijn suggesties om uw datagovernance te documenteren.

Datasetdocumentatie als code

Houd specificaties van datasets, verzamelmethoden en voorbereidingsstappen bij in bestanden onder versiebeheer naast de code van uw AI-systeem.

Bias- en drifttests in CI/CD

Voer in de pipeline biascontroles uit op elke versie van een dataset en tests op datadrift.

Herkomst van data volgen

Volg bronnen, bewerkingen en versies, zodat u kunt aantonen waar elke dataset vandaan komt (artikel 10(2), punt b)).

Datasetkaarten met versies

Leg per versie van een dataset de samenstelling, de verzamelmethode, de bekende beperkingen en de resultaten van het biasonderzoek vast.

Artikel 4 bis staat bijzondere categorieën data toe voor biascorrectie, onder strikte voorwaarden

Aanbieders van hoogrisico-AI-systemen mogen bij wijze van uitzondering bijzondere categorieën van persoonsgegevens verwerken wanneer dat strikt noodzakelijk is om bias op te sporen en te corrigeren volgens artikel 10(2), punten f) en g) (artikel 4 bis(1)). Aan alle voorwaarden moet zijn voldaan. Daartoe behoren: andere data, ook synthetische of geanonimiseerde, volstaan niet; de data is onderworpen aan technische beperkingen van hergebruik en strikte toegangscontrole en wordt niet aan anderen doorgegeven; ze wordt verwijderd zodra de bias is gecorrigeerd of de bewaartermijn afloopt. Deze voorwaarden komen bovenop de AVG. Artikel 4 bis(2) breidt dit uit tot gebruiksverantwoordelijken van hoogrisico-AI-systemen en tot aanbieders en gebruiksverantwoordelijken van andere AI-systemen en -modellen, wanneer de verwerking strikt noodzakelijk is en alle voorwaarden en waarborgen van artikel 4 bis(1) gelden. Het schept geen plicht om bias op te sporen of te corrigeren.

Artikel 4 bis is toegevoegd bij Verordening (EU) 2026/1744. Het vervangt het voormalige artikel 10(5).

Veelgestelde vragen over artikel 10

Geldt artikel 10 als ik een AI-model voor algemene doeleinden verfijn?

Ja, voor de datasets waarmee u uw hoogrisico-AI-systeem traint, valideert en test (artikel 10(1)). De verordening zegt niet of artikel 10 ook de oorspronkelijke trainingsdata van het basismodel omvat. Vraag een jurist om advies en vraag de modelinformatie op die de aanbieder van het AI-model voor algemene doeleinden voor downstreamaanbieders moet bijhouden (artikel 53(1), punt b)).

Wat betekent „voldoende representatief”?

Artikel 10(3) vereist dat datasets voldoende representatief zijn met het oog op het beoogde doel en passende statistische eigenschappen hebben, ook ten aanzien van de personen of groepen personen ten aanzien van wie het systeem wordt gebruikt. Artikel 10(4) voegt de geografische, contextuele, gedragsmatige of functionele omgeving van het gebruik toe. De verordening noemt geen getalsmatige drempel.

Moet ik synthetische data gebruiken?

Nee. Synthetische data is niet verplicht. Artikel 4 bis(1) vereist wel dat bias zich niet doeltreffend laat opsporen en corrigeren met andere data, ook synthetische of geanonimiseerde, voordat u bijzondere categorieën van persoonsgegevens verwerkt.

Wat geldt voor datasets van derden?

Artikel 10 geldt voor de datasets die voor uw systeem worden gebruikt, ongeacht wie ze heeft gemaakt. Documenteer waar ze vandaan komen (artikel 10(2), punt b)) en onderzoek ze zelf op bias (artikel 10(2), punt f)).

Hoe verhoudt artikel 10 zich tot de AVG?

Artikel 10 geldt naast de AVG. Artikel 4 bis stelt voorwaarden aan de verwerking van bijzondere categorieën van persoonsgegevens voor biascorrectie, bovenop de AVG (artikel 4 bis(1)). Artikel 4 bis(2) breidt de uitzondering uit tot gebruiksverantwoordelijken en andere AI-systemen en -modellen.

Welke boete geldt als een aanbieder artikel 10 schendt?

Boetes voor het schenden van de aanbiederplichten van artikel 16 bedragen tot 15 miljoen EUR of 3 % van de totale wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Voor mkb-bedrijven en kleine midcaps geldt het laagste van de twee bedragen als grens (artikel 99(6) en (6 bis)).

Lees verder: risicobeheer, documentatie en nauwkeurigheid

Scanara bereidt bewijs voor vanuit uw repositories

Scanara leest uw gekoppelde GitHub-repositories en voert regelgebaseerde scans uit op gangbare AI- en machine-learningpatronen. Niet-standaardcode kan het missen. Daarnaast genereert het conceptdocumentatie op basis van sjablonen en uw antwoorden in de beoordelingen, als bewijs voor uw compliancewerk. De indeling bepaalt u zelf.