Artikel 13 voor biometrische AI: transparantie en gebruiksaanwijzing

Artikel 13 betreft de informatie die een aanbieder aan gebruiksverantwoordelijken verstrekt. Het is geen informatieplicht jegens de personen die een systeem vastlegt.

• art. 13(1)
  Voldoende transparant om de output te interpreteren

  AI-systemen met een hoog risico worden op zodanige wijze ontworpen en ontwikkeld dat de werking ervan voldoende transparant is om gebruiksverantwoordelijken in staat te stellen de output van een systeem te interpreteren en op passende wijze te gebruiken. Een passende soort en mate van transparantie wordt gewaarborgd met het oog op de naleving van de relevante verplichtingen van de aanbieder en de gebruiksverantwoordelijke zoals uiteengezet in afdeling 3.

• art. 13(2)
  Gebruiksaanwijzing in een passend formaat

  AI-systemen met een hoog risico gaan vergezeld van gebruiksaanwijzingen in een passend digitaal of ander formaat. Zij bevatten beknopte, volledige, juiste en duidelijke informatie die relevant, toegankelijk en begrijpelijk is voor gebruiksverantwoordelijken.

• art. 13(3)(a)–(b)
  Identiteit van de aanbieder, capaciteiten en beperkingen

  De gebruiksaanwijzing bevat ten minste de identiteit en de contactgegevens van de aanbieder en, in voorkomend geval, van zijn gemachtigde. Zij beschrijft de kenmerken, capaciteiten en beperkingen van de prestaties van het systeem, waaronder het volgende. Het beoogde doel. Het niveau van nauwkeurigheid, met inbegrip van de metrieken, robuustheid en cyberbeveiliging waaraan het systeem is getoetst en gevalideerd en dat kan worden verwacht, en alle bekende en te voorziene omstandigheden die daarop van invloed kunnen zijn. Alle bekende of te voorziene omstandigheden die kunnen leiden tot risico’s voor de gezondheid en veiligheid of de grondrechten. In voorkomend geval, de technische capaciteiten en kenmerken van het systeem om informatie te verstrekken die relevant is om de output toe te lichten. Indien passend, de prestaties van het systeem met betrekking tot specifieke personen of groepen personen ten aanzien van wie het systeem bedoeld is te worden gebruikt. Indien passend, specificaties voor de inputdata of andere relevante informatie over de gebruikte trainings-, validatie- en testdatasets. In voorkomend geval, informatie om gebruiksverantwoordelijken in staat te stellen de output van het systeem te interpreteren en op passende wijze te gebruiken.

• art. 13(3)(c)–(f)
  Wijzigingen, menselijk toezicht, middelen en logs

  De gebruiksaanwijzing bevat ook het volgende. De wijzigingen van het systeem en de prestaties ervan die de aanbieder bij de eerste conformiteitsbeoordeling vooraf heeft bepaald, indien van toepassing. De maatregelen voor menselijk toezicht als bedoeld in artikel 14, met inbegrip van de technische maatregelen die zijn genomen om de interpretatie van de output door gebruiksverantwoordelijken te vergemakkelijken. De benodigde reken- en hardwarebronnen, de verwachte levensduur van het systeem en de noodzakelijke onderhouds- en verzorgingsmaatregelen, met inbegrip van de frequentie daarvan, om de goede werking van het systeem te waarborgen, ook wat softwareupdates betreft. Indien relevant, een beschrijving van de mechanismen in het systeem waarmee gebruiksverantwoordelijken de logs naar behoren kunnen verzamelen, opslaan en interpreteren overeenkomstig artikel 12.

Artikel 13 bindt alleen AI-systemen met een hoog risico. De rijen hieronder laten zien waar biometrische AI een hoog risico heeft, wie gebonden is en waar de verplichtingen jegens betrokken personen staan.

• Bijlage III bevat een gebied ‘Biometrie’, beperkt tot drie soorten systemen

  Bijlage III bevat een gebied ‘Biometrie’, voor zover het gebruik ervan is toegestaan op grond van het toepasselijke Unierecht of nationale recht. Het gebied is beperkt tot punt 1, a) tot en met c); de verordening kent geen ruimere biometrieregeling. Het woord ‘biometrie’ op deze site duidt deze systemen aan. Punt 1, a), betreft systemen voor biometrische identificatie op afstand. Dit geldt niet voor AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische verificatie met als enig doel te bevestigen dat een specifieke natuurlijke persoon de persoon is die hij of zij beweert te zijn. Punt 1, b), betreft AI-systemen die bedoeld zijn om te worden gebruikt voor biometrische categorisering op basis van gevoelige of beschermde eigenschappen of kenmerken, of op basis van wat uit die eigenschappen of kenmerken wordt afgeleid. Punt 1, c), betreft AI-systemen die bedoeld zijn om te worden gebruikt voor emotieherkenning. Een systeem voor biometrische identificatie op afstand identificeert natuurlijke personen zonder hun actieve betrokkenheid, doorgaans op afstand, door de biometrische gegevens van een persoon te vergelijken met de biometrische gegevens in een referentiedatabank (artikel 3, punt 41). Biometrische verificatie is de geautomatiseerde één-op-één-verificatie, met inbegrip van authenticatie, van de identiteit van natuurlijke personen door hun biometrische gegevens te vergelijken met eerder verstrekte biometrische gegevens (artikel 3, punt 36). Een biometrisch systeem dat punt 1 niet noemt, is alleen een systeem met een hoog risico als een ander punt van bijlage III of bijlage I het dekt.

• Artikel 6, lid 3, kan een systeem uit bijlage III halen

  Een systeem onder bijlage III, punt 1, is een AI-systeem met een hoog risico op grond van artikel 6, lid 2. Volgens artikel 6, lid 3, is het geen AI-systeem met een hoog risico als het geen significant risico op schade voor de gezondheid, veiligheid of grondrechten inhoudt. Daaronder valt dat het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt. De verordening past deze uitzondering toe wanneer aan een van de volgende voorwaarden is voldaan (artikel 6, lid 3, punten a) tot en met d)). Het systeem is bedoeld om een beperkte procedurele taak uit te voeren. Of het is bedoeld om het resultaat van een eerder voltooide menselijke activiteit te verbeteren. Of het is bedoeld om besluitvormingspatronen of afwijkingen van eerdere besluitvormingspatronen op te sporen en is niet bedoeld om de eerder voltooide menselijke beoordeling zonder behoorlijke menselijke toetsing te vervangen of te beïnvloeden. Of het is bedoeld om een voorbereidende taak uit te voeren voor een beoordeling die relevant is voor de in bijlage III vermelde gebruiksgevallen. Hoe deze voorwaarden zich verhouden tot de toets van het significante risico, is een vraag voor een jurist. Het systeem is altijd een AI-systeem met een hoog risico als het profilering van natuurlijke personen uitvoert. Profilering is gedefinieerd in artikel 4, punt 4, AVG (artikel 3, punt 52). Of een bepaald biometrisch systeem dat doet, is ook een vraag voor een jurist. Een aanbieder die zich op de uitzondering beroept, documenteert zijn beoordeling voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld. Hij moet het systeem ook registreren (artikel 6, lid 4, artikel 49, lid 2). Los daarvan sluit punt 1, a), zelf AI-systemen uit die bedoeld zijn om te worden gebruikt voor biometrische verificatie met als enig doel te bevestigen dat een specifieke natuurlijke persoon de persoon is die hij of zij beweert te zijn.

• Aanbieder en gebruiksverantwoordelijke

  De aanbieder ontwikkelt een AI-systeem, of laat het ontwikkelen. Hij brengt het onder eigen naam of merk in de handel of stelt het onder eigen naam of merk in gebruik (artikel 3, punt 3). Onder in gebruik stellen valt ook de levering voor eigen gebruik van de aanbieder (artikel 3, punt 11). Een onderneming of overheidsinstantie die een biometrisch systeem ontwikkelt en onder eigen naam in gebruik stelt, is dus een aanbieder. Een onderneming of overheidsinstantie die een systeem onder eigen verantwoordelijkheid gebruikt, is een gebruiksverantwoordelijke (artikel 3, punt 4). Een gebruiksverantwoordelijke wordt in drie gevallen de aanbieder. Hij zet zijn naam of merk op een AI-systeem met een hoog risico dat al in de handel is gebracht, onverminderd contractuele regelingen waarin wordt bepaald dat de verplichtingen anders worden toegewezen. Hij brengt een substantiële wijziging aan in zo’n systeem, waardoor het een AI-systeem met een hoog risico blijft. Of hij wijzigt het beoogde doel van een niet als hoog risico geclassificeerd systeem, zodat het een AI-systeem met een hoog risico wordt (artikel 25, lid 1). De aanbieder die het systeem als eerste in de handel heeft gebracht of in gebruik heeft gesteld, wordt dan niet langer als aanbieder van dat specifieke systeem beschouwd en moet nauw samenwerken met de nieuwe aanbieder (artikel 25, lid 2). Dit geldt niet als de oorspronkelijke aanbieder duidelijk heeft aangegeven dat zijn systeem niet mag worden gewijzigd in een AI-systeem met een hoog risico.

• Verplichtingen om betrokken personen te informeren staan in andere artikelen

  Artikel 13 betreft informatie aan gebruiksverantwoordelijken. Het stelt geen regel over borden, mededelingen of schermberichten voor personen die door een biometrisch systeem worden vastgelegd. Gebruiksverantwoordelijken van in bijlage III bedoelde AI-systemen met een hoog risico die besluiten nemen of helpen nemen met betrekking tot natuurlijke personen, informeren die personen dat zij worden blootgesteld aan het gebruik van het systeem (artikel 26, lid 11). Gebruiksverantwoordelijken van een systeem voor emotieherkenning of biometrische categorisering informeren de daaraan blootgestelde natuurlijke personen over de werking van het systeem en verwerken de persoonsgegevens overeenkomstig het gegevensbeschermingsrecht (artikel 50, lid 3). Die verplichting geldt niet voor dergelijke systemen die bij wet zijn toegestaan voor het opsporen, voorkomen of onderzoeken van strafbare feiten, met passende waarborgen voor de rechten en vrijheden van derden en in overeenstemming met het Unierecht. Het Unierecht inzake gegevensbescherming blijft van toepassing (artikel 2, lid 7).

• Datums

  De eisen voor deze toepassingen uit bijlage III gelden vanaf 2 december 2027 (artikel 113, punt c), i)). Een systeem dat vóór die datum in de handel is gebracht of in gebruik is gesteld, valt er alleen onder als het ontwerp daarna aanzienlijk wordt gewijzigd. In elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111, lid 2). Deze regel geldt niet voor de systemen bedoeld in artikel 111, lid 1.

• Boetes

  Aanbieders zorgen ervoor dat hun AI-systemen met een hoog risico voldoen aan de eisen van afdeling 2 van hoofdstuk III. Daartoe behoren de artikelen 9 tot en met 15 (artikel 16, punt a)). Een inbreuk op de verplichtingen van aanbieders in artikel 16 of van gebruiksverantwoordelijken in artikel 26 kan worden beboet. De boete bedraagt maximaal 15 miljoen EUR of, voor een onderneming, maximaal 3 % van haar totale wereldwijde jaarlijkse omzet in het voorafgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 4, punten a) en e)). Voor mkb-bedrijven, met inbegrip van start-ups, geldt voor elke boete als maximum het lagere van de twee grenzen (artikel 99, lid 6). Hetzelfde geldt voor kleine midcapondernemingen (artikel 3, punt 14 ter, artikel 99, lid 6 bis). Elke lidstaat stelt regels vast betreffende de vraag in hoeverre administratieve geldboeten kunnen worden opgelegd aan in die lidstaat gevestigde overheidsinstanties of -organen (artikel 99, lid 8).

• Bereik en grenzen van de verordening

  De verordening is van toepassing op aanbieders en gebruiksverantwoordelijken die in een derde land zijn gevestigd of er zich bevinden, indien de output van het AI-systeem in de Unie wordt gebruikt (artikel 2, lid 1, punt c)). Zij is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen, en doet geen afbreuk aan de bevoegdheden van de lidstaten op het gebied van nationale veiligheid (artikel 2, lid 3). De verordening is niet van toepassing op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel (artikel 2, lid 6). Zij is niet van toepassing op onderzoeks-, test- of ontwikkelingsactiviteiten voordat een systeem in de handel wordt gebracht of in gebruik wordt gesteld. Testen onder reële omstandigheden vallen niet onder die uitsluiting (artikel 2, lid 8). AI-systemen die worden vrijgegeven onder vrije en opensourcelicenties vallen buiten de verordening. Die uitsluiting geldt niet voor AI-systemen die als systeem met een hoog risico in de handel worden gebracht of in gebruik worden gesteld, of die onder artikel 5 of 50 vallen (artikel 2, lid 12). Zij is niet van toepassing op AI-systemen waar en voor zover deze met of zonder wijziging uitsluitend voor militaire, defensie- of nationale veiligheidsdoeleinden in de handel worden gebracht, in gebruik worden gesteld of worden gebruikt, ongeacht het soort entiteit dat deze activiteiten uitvoert (artikel 2, lid 3). Zij is niet van toepassing op overheidsinstanties in derde landen of internationale organisaties die op grond van artikel 2, lid 1, binnen haar toepassingsgebied vallen, wanneer zij AI-systemen gebruiken in het kader van internationale samenwerking of overeenkomsten met de Unie of een of meer lidstaten op het gebied van rechtshandhaving en justitie, op voorwaarde dat dat derde land of die internationale organisatie passende waarborgen biedt met betrekking tot de bescherming van de grondrechten en fundamentele vrijheden van natuurlijke personen (artikel 2, lid 4). Zij is niet van toepassing op de verplichtingen van gebruiksverantwoordelijken die natuurlijke personen zijn en AI-systemen gebruiken in het kader van een louter persoonlijke niet-beroepsactiviteit (artikel 2, lid 10). Het Unierecht inzake de bescherming van persoonsgegevens, de privacy en de vertrouwelijkheid van communicatie is van toepassing op persoonsgegevens die worden verwerkt in verband met de rechten en verplichtingen in de verordening. Onverminderd artikel 4 bis en artikel 59 laat de verordening de Verordeningen (EU) 2016/679 en (EU) 2018/1725 en de Richtlijnen 2002/58/EG en (EU) 2016/680 onverlet (artikel 2, lid 7).

• Geen biometrische nauwkeurigheidswaarden en geen lijst van groepen

  Artikel 13, lid 3, vereist dat de gebruiksaanwijzing het nauwkeurigheidsniveau en de bijbehorende metrieken vermeldt en, indien passend, de prestaties met betrekking tot specifieke personen of groepen personen. Hij noemt voor biometrische systemen geen nauwkeurigheidswaarde, metriek of lijst van groepen. De verordening zelf noemt geen norm. AI-systemen met een hoog risico die in overeenstemming zijn met geharmoniseerde normen waarvan de referenties in het Publicatieblad van de Europese Unie zijn bekendgemaakt, worden geacht in overeenstemming te zijn met de eisen van afdeling 2, voor zover die normen die eisen dekken (artikel 40, lid 1). De Commissie ontwikkelt richtsnoeren over de toepassing van de vereisten en verplichtingen in de artikelen 8 tot en met 15 en de artikelen 25 en 26 (artikel 96, lid 1, punt a)).

• Voorbeeld: een gids voor de personen die matches verifiëren

  Voorbeeld, geen eis van de verordening: voor de personen die een match moeten verifiëren op grond van artikel 14, lid 5 zou de aanbieder een korte gids kunnen toevoegen over hoe een match te lezen en in welke omstandigheden hij minder betrouwbaar is.

• Voorbeeld: de gebruiksaanwijzing van versies voorzien

  Voorbeeld, geen eis van de verordening: een aanbieder zou de gebruiksaanwijzing van versies kunnen voorzien en kunnen vastleggen welke versie bij welke systeemrelease hoort, zodat een gebruiksverantwoordelijke kan nagaan wat gold op het moment van een bepaald gebruik.

• Artikel 13 AI-verordening: transparantie en gebruiksaanwijzing

  Artikel 13 voor alle sectoren: de eisen, datums en boetes.

• AI-verordening biometrie: nalevingsgids

  Het overzicht biometrie: wat de verordening dekt, wat zij verbiedt en de biometriespecifieke regels.

• Artikel 14 voor biometrische AI: menselijk toezicht

  Biometrische AI en artikel 14: menselijk toezicht en de controle door twee personen bij identificatie op afstand.

• Artikel 15 AI-verordening: nauwkeurigheid, robuustheid en cyberbeveiliging

  Artikel 15 voor alle sectoren: de nauwkeurigheidsniveaus die artikel 13, lid 3, van aanbieders vraagt te vermelden.