AI-verordening voor biometrische AI-systemen
Voor biometrische AI: bijlage III, punt 1, betreft identificatie, categorisering en emotieherkenning; sommige gebruiken zijn verboden.
Toets eerst aan artikel 5, daarna aan bijlage III, punt 1
Bijlage III, punt 1, betreft biometrische identificatie op afstand (a)), categorisering op grond van gevoelige kenmerken (b)) en emotieherkenning (c)). Punt a) sluit één-op-één-verificatie uit. Artikel 5 verbiedt sinds 2 februari 2025 enkele biometrische praktijken. De hoogrisicoregels gelden vanaf 2 december 2027. Volgende stap: koppel elk systeem aan punt a), b) of c).
Wat op aanbieders en gebruiksverantwoordelijken van biometrische AI afkomt
Sommige biometrische praktijken zijn verboden
Artikel 5(1) verbiedt het ongerichte scrapen van gezichtsafbeeldingen voor databanken (e)) en het afleiden van emoties op het werk en in het onderwijs (f)). Het verbiedt ook het categoriseren van personen op gevoelige kenmerken (g)) en biometrische identificatie op afstand in real time voor rechtshandhaving (h)). Elk punt kent voorwaarden of uitzonderingen.
Biometrische hoogrisicosystemen
Aanbieders voldoen vanaf 2 december 2027 aan de artikelen 8 tot en met 15. Bij systemen van punt 1, a), leggen de logs elk gebruik vast, de referentiedatabank en de invoergegevens die tot een match leidden (artikel 12(3)). Twee personen verifiëren een identificatie voordat iemand ernaar handelt, met uitzonderingen (artikel 14(5)).
Verificatie valt niet onder punt 1, a)
Eén-op-één-verificatie, zoals het ontgrendelen van een apparaat, valt buiten punt 1, a) (artikel 3, punt 36, definieert haar). Zo’n systeem heeft alleen een hoog risico als een ander punt van bijlage III of bijlage I het dekt.
Wat Scanara voor biometrische AI ondersteunt
Screening op verboden praktijken
Voor elk geregistreerd systeem loopt een begeleide toets aan artikel 5, en coderegels signaleren detecteerbare patronen. Code toont geen doel of context, dus uw team beslist, in grensgevallen met juridisch advies.
Inventaris met vastgelegde classificatie
U registreert elk AI-systeem. Scanara legt de risicoclassificatie en uw motivering voor punt 1, a), b) of c) vast. U neemt de beslissing.
Code- en documentcontroles
Coderegels dekken de artikelen 9, 10, 12, 14 en 15. Documentscans controleren de inhoud voor de artikelen 11 en 13. Scanara scant code en documenten; het test de modelnauwkeurigheid niet en meet geen bias op uw data.
Concept van documentatie en verklaring
Scanara genereert concepten van de technische documentatie uit bijlage IV en de EU-conformiteitsverklaring op basis van uw invoer. Het bereidt bewijs voor; het is geen aangemelde instantie en certificeert niet.
Twee maximumboetes om te kennen
35 miljoen EUR of 7 %
Maximumboete bij overtreding van artikel 5: tot 35 miljoen EUR of, voor een onderneming, tot 7 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(3)).
15 miljoen EUR of 3 %
Maximumboete bij overtreding van de plichten van aanbieders en gebruiksverantwoordelijken: tot 15 miljoen EUR of, voor een onderneming, tot 3 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Voor mkb-bedrijven en kleine midcapondernemingen geldt het lagere bedrag als maximum (artikel 99(6) en (6a)).
Vragen van teams voor biometrische AI
Is gezichtsherkenning verboden?
Niet als zodanig. Artikel 5(1), h), verbiedt biometrische identificatie op afstand in real time in openbare ruimten voor rechtshandhaving, tenzij strikt noodzakelijk voor een van drie doelstellingen. Artikel 5(1), e), verbiedt het ongerichte scrapen van gezichtsafbeeldingen voor databanken. Andere identificatie op afstand staat in bijlage III, punt 1, a), en artikel 9 AVG is van toepassing op biometrische gegevens.
Heeft één-op-één-verificatie een hoog risico?
Niet via bijlage III, punt 1, a), dat systemen uitsluit waarvan het enige doel is te bevestigen dat een bepaalde persoon is wie hij of zij beweert te zijn. Zo’n systeem heeft alleen een hoog risico als een ander punt van bijlage III of bijlage I het dekt (artikel 6).
Geldt het verbod op biometrische categorisering ook voor bedrijven?
Ja. Artikel 5(1), g), verbiedt personen op basis van biometrische gegevens te categoriseren om ras, politieke opvattingen, vakbondslidmaatschap, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele geaardheid af te leiden. Het verbod geldt niet voor het labelen of filteren van rechtmatig verkregen biometrische datasets en niet voor categorisering bij rechtshandhaving.
Welke data gelden?
Artikel 5 geldt sinds 2 februari 2025. De hoogrisico-eisen voor systemen uit bijlage III gelden vanaf 2 december 2027 (artikel 113, punt c), i)). Een eerder in de handel gebracht of in gebruik gesteld systeem valt er pas onder na belangrijke ontwerpwijzigingen (artikel 111(2)).
Kan Scanara mij vertellen of mijn biometrische systeem verboden is?
Nee. Scanara voert een begeleide toets aan artikel 5 uit en signaleert detecteerbare codepatronen. Uw team beslist, in grensgevallen met juridisch advies, want code alleen toont geen doel of context.
Lees verder
Bekijk een voorbeeld van een scanrapport
De demo toont een echt, geanonimiseerd compliancerapport en een rondleiding door het product.
Scanara bereidt bewijs voor vanuit uw repositories
Scanara leest uw gekoppelde GitHub-repositories en voert regelgebaseerde scans uit op gangbare AI- en machine-learningpatronen. Niet-standaardcode kan het missen. Daarnaast genereert het conceptdocumentatie op basis van sjablonen en uw antwoorden in de beoordelingen, als bewijs voor uw compliancewerk. De indeling bepaalt u zelf.