Is artikel 10 van toepassing op fijnafgestemde foundation models?

Ja. Als u een foundation model fijnafstemmt voor een hoog-risico use case, moet u datagovernance-praktijken toepassen op uw fijnafstemdatasets, zelfs als u het basismodel niet hebt getraind.

Wat telt als "voldoende representatieve" data?

Datasets moeten de operationele context en doelpopulatie van uw AI-systeem weerspiegelen. Dit betekent het dekken van relevante demografische groepen, edge cases en inputvariaties die uw systeem in productie zal tegenkomen.

Moet ik synthetische data gebruiken?

Nee, synthetische data is niet verplicht. Het kan echter helpen om geïdentificeerde datalacunes op te vullen of ondervertegenwoordiging van bepaalde groepen aan te pakken, vooral wanneer echte data schaars is of privacyproblemen oproept.

Wat als ik datasets van derden gebruik?

U blijft verantwoordelijk voor het waarborgen dat datasets van derden voldoen aan de vereisten van artikel 10. Documenteer de herkomst van de dataset, voer uw eigen bias-onderzoek uit en beoordeel of deze voldoende representatief is voor uw beoogde doel.

Hoe interageert artikel 10 met de AVG?

Artikel 10 vult de AVG aan door AI-specifieke datagovernance-vereisten toe te voegen. Artikel 10, lid 5 voorziet in een beperkte uitzondering om bijzondere categorieën data te verwerken voor biascorrectie, maar u moet nog steeds voldoen aan de bredere databeschermingsprincipes van de AVG.

Artikel 10 AI-verordening: vereisten trainingsdata

Wat artikel 10 van de AI-verordening vereist voor trainings-, validatie- en testdata: datakwaliteit, biasdetectie en documentatie.

Artikel 10 van de EU AI-verordening verplicht aanbieders van AI-systemen met een hoog risico om datagovernance- en databeheerpraktijken toe te passen op trainings-, validatie- en testdatasets gedurende de gehele levenscyclus van het AI-systeem.

Datagovernance-vereisten

Ontwerpkeuzes & dataverzameling

Documenteer relevante ontwerpkeuzes voor dataverzamelingsprocessen, inclusief databronnen, verzamelingsmethoden en de motivering voor de samenstelling van de dataset.

Dataverzamelingsprocessen

Stel duidelijke processen vast voor het verzamelen van trainings-, validatie- en testdata die aansluiten bij het beoogde doel van het AI-systeem.

Datavoorbereiding & annotatie

Pas passende datavoorbereidingsoperaties toe, waaronder annotatie, labeling, opschoning, verrijking en aggregatie om de datasetkwaliteit te waarborgen.

Bias-onderzoek & mitigatie

Onderzoek datasets op mogelijke vertekeningen die de gezondheid, veiligheid of grondrechten kunnen aantasten of kunnen leiden tot verboden discriminatie.

Datalacunes & volledigheid

Identificeer en verhelp datalacunes of tekortkomingen om ervoor te zorgen dat datasets relevant, voldoende representatief en compleet zijn voor het beoogde doel.

Implementatiestappen

Datasetdocumentatie als code

Onderhoud datasetspecificaties, verzamelingsmethoden en voorbereidingsstappen in versiebeheerde configuratiebestanden naast uw AI-systeemcode.

Geautomatiseerde bias- & drift-tests

Integreer geautomatiseerde biasdetectie en data-drift-tests in uw CI/CD-pipeline om problemen vóór implementatie te ontdekken.

Data-lineage-tracking

Implementeer end-to-end-tracking van databronnen, transformaties en versiebeheer om volledige zichtbaarheid van datasetherkomst te behouden.

Geversioneerde dataset-kaarten

Creëer gestructureerde dataset-kaarten die samenstelling, verzamelingsmethodologie, bekende beperkingen en bias-onderzoeksresultaten documenteren voor elke datasetversie.

AVG-overwegingen

Artikel 10, lid 5 staat verwerking van bijzondere categorieën persoonsgegevens strikt toe voor het opsporen en corrigeren van vertekeningen, onderworpen aan passende waarborgen, waaronder technische beperkingen, state-of-the-art beveiligingsmaatregelen en verwijdering zodra de vertekening is gecorrigeerd of de bewaarlimiet is bereikt.

Veelgestelde vragen

Hoe Scanara helpt

Scanara automatiseert EU AI-verordening compliance van code tot dossier. Verbind uw GitHub-repos en ontvang compliance-rapporten in minuten.