Artikel 53 voor rechtshandhaving: verplichtingen van aanbieders van AI-modellen voor algemene doeleinden

De verordening kent geen sectorbreed regime voor rechtshandhaving; bijlage III, punt 6 is het hoogrisicogebied met de kop “Rechtshandhaving”. Zij definieert rechtshandhaving als activiteiten die worden verricht door of namens rechtshandhavingsinstanties met het oog op de voorkoming van, het onderzoek naar, de opsporing of de vervolging van strafbare feiten of de uitvoering van straffen, met inbegrip van de bescherming tegen en de voorkoming van gevaren voor de openbare veiligheid (art. 3, punt 46). Een rechtshandhavingsinstantie is een overheidsinstantie die voor die taken bevoegd is, of een ander orgaan dat krachtens het recht van een lidstaat is gemachtigd om daarvoor openbaar gezag uit te oefenen (art. 3, punt 45).

bijlage III, punt 6 noemt vijf toepassingen door of namens rechtshandhavingsinstanties, of door instellingen, organen en instanties van de Unie ter ondersteuning daarvan, als hoogrisico, voor zover het gebruik ervan is toegestaan op grond van het toepasselijke Unie- of nationale recht: het beoordelen van het risico dat een persoon slachtoffer wordt van strafbare feiten (a); leugendetectors en soortgelijke hulpmiddelen (b); het beoordelen van de betrouwbaarheid van bewijsmateriaal (c); het beoordelen van het risico dat een persoon een strafbaar feit pleegt of opnieuw pleegt, niet uitsluitend op basis van profilering, of het beoordelen van persoonlijkheidskenmerken of eerder crimineel gedrag (d); en profilering tijdens de opsporing, het onderzoek of de vervolging van strafbare feiten (e). De verordening bevat geen aparte vermelding voor criminaliteitsanalyse of predictive policing als zodanig.

Politiewerk kan ook vallen onder bijlage III, punt 1 (biometrische identificatie op afstand, biometrische categorisering op basis van gevoelige of beschermde kenmerken, emotieherkenning) en bijlage III, punt 7 (migratie, asiel en grenstoezicht). Voor beide punten geldt dezelfde voorwaarde: het gebruik moet zijn toegestaan op grond van het toepasselijke Unie- of nationale recht. bijlage III, punt 8, onder a) betreft systemen die worden gebruikt door of namens een gerechtelijke instantie.

De verordening is niet van toepassing op AI-systemen die uitsluitend voor militaire doeleinden, defensiedoeleinden of doeleinden van nationale veiligheid worden gebruikt (art. 2, lid 3). Sommige toepassingen bij rechtshandhaving zijn sinds 2 februari 2025 verboden in plaats van hoogrisico (art. 113, punt a)): een risicobeoordeling waarmee wordt voorspeld dat iemand een strafbaar feit zal plegen, uitsluitend op basis van profilering of persoonlijkheidskenmerken, tenzij zij alleen een menselijke beoordeling ondersteunt die al is gebaseerd op objectieve en verifieerbare feiten die rechtstreeks verband houden met een criminele activiteit (art. 5, lid 1, punt d)); gezichtsherkenningsdatabanken die worden aangelegd door het ongerichte scrapen van gezichtsafbeeldingen van internet of camerabeelden (art. 5, lid 1, punt e)); en biometrische identificatie op afstand “in real time” in openbare ruimten, tenzij strikt noodzakelijk voor een doel dat is genoemd in art. 5, lid 1, punt h) en met inachtneming van art. 5, leden 2 tot en met 7. De verordening is evenmin van toepassing op gebieden die buiten de werkingssfeer van het Unierecht vallen (art. 2, lid 3); op overheidsinstanties van derde landen en internationale organisaties die AI-systemen gebruiken in het kader van internationale samenwerking of overeenkomsten voor samenwerking op het gebied van rechtshandhaving en justitie met de Unie of een of meer lidstaten, mits passende waarborgen voor de bescherming van de grondrechten en fundamentele vrijheden worden geboden (art. 2, lid 4); en op AI-systemen die onder vrije en opensourcelicenties worden vrijgegeven, tenzij zij als hoogrisicosystemen in de handel worden gebracht of in gebruik worden gesteld of onder artikel 5 of 50 vallen (art. 2, lid 12). Natuurlijke personen die een systeem gebruiken in het kader van een zuiver persoonlijke, niet-beroepsmatige activiteit vallen buiten de verplichtingen van gebruiksverantwoordelijken (art. 2, lid 10).

Aanbieders moeten de technische documentatie van het model opstellen en actueel houden, met inbegrip van het trainings- en testproces en de evaluatieresultaten. Zij bevat ten minste de informatie uit bijlage XI en wordt op verzoek verstrekt aan het AI-bureau en de nationale bevoegde autoriteiten (art. 53, lid 1, punt a)).

Aanbieders moeten informatie en documentatie opstellen, actueel houden en beschikbaar stellen aan aanbieders van AI-systemen die het model willen integreren. Die moeten hun een goed begrip geven van de mogelijkheden en beperkingen van het model en hen in staat stellen aan hun eigen verplichtingen te voldoen, en ten minste de elementen uit bijlage XII bevatten, onverminderd de intellectuele-eigendomsrechten en bedrijfsgeheimen (art. 53, lid 1, punt b)).

Aanbieders moeten een beleid invoeren om het Unierecht inzake auteursrechten en naburige rechten na te leven, in het bijzonder om een voorbehoud van rechten dat is uitgedrukt op grond van artikel 4, lid 3, van Richtlijn (EU) 2019/790 te identificeren en na te leven, ook met geavanceerde technologieën (art. 53, lid 1, punt c)).

Aanbieders moeten een voldoende gedetailleerde samenvatting van de voor het trainen van het model gebruikte content opstellen en openbaar maken, volgens een door het AI-bureau verstrekt sjabloon (art. 53, lid 1, punt d)).

De verplichtingen van de punten a) en b) gelden niet voor aanbieders van modellen die worden vrijgegeven onder een vrije en opensourcelicentie die toegang, gebruik, wijziging en distributie toestaat, en waarvan de parameters, waaronder de wegingen, de informatie over de modelarchitectuur en de informatie over het modelgebruik openbaar worden gemaakt. Deze uitzondering geldt niet voor modellen met systeemrisico (art. 53, lid 2). Aanbieders werken zo nodig samen met de Commissie en de nationale bevoegde autoriteiten (art. 53, lid 3).

Aanbieders mogen zich beroepen op praktijkcodes in de zin van artikel 56 om de naleving van lid 1 aan te tonen totdat een geharmoniseerde norm is bekendgemaakt. Naleving van Europese geharmoniseerde normen geeft een vermoeden van conformiteit voor zover die normen die verplichtingen bestrijken. Aanbieders die geen van beide volgen, moeten alternatieve adequate middelen voor naleving aantonen ter beoordeling door de Commissie (art. 53, lid 4).

Artikel 53 bevat geen bepaling over rechtshandhaving. Een politie-instantie die alleen een systeem gebruikt dat op een AI-model voor algemene doeleinden is gebouwd, is niet de aanbieder van het model. Een instantie die een model ontwikkelt en onder haar eigen naam in de Unie in de handel brengt, is aanbieder (art. 3, punt 3, art. 2, lid 1, punt a)).

Een aanbieder van een hoogrisicosysteem voor rechtshandhaving die een AI-model voor algemene doeleinden integreert, ontvangt de informatie op grond van art. 53, lid 1, punt b). Die moet hem een goed begrip geven van de mogelijkheden en beperkingen van het model en hem in staat stellen aan zijn eigen verplichtingen uit de verordening te voldoen.

Artikel 49 betreft hoogrisicosystemen uit bijlage III en systemen die de aanbieder op grond van artikel 6, lid 3, niet als hoogrisico beschouwt (art. 49, lid 1, art. 49, lid 2). Het beveiligde niet-openbare gedeelte voor rechtshandhaving, migratie, asiel en grenstoezicht geldt voor systemen uit de punten 1, 6 en 7 van bijlage III, niet voor modellen (art. 49, lid 4).

Hoofdstuk V, waarin artikel 53 staat, geldt vanaf 2 augustus 2025, met uitzondering van artikel 101 (art. 113, punt b)). Aanbieders van modellen die vóór die datum in de handel zijn gebracht, moeten uiterlijk 2 augustus 2027 de nodige stappen zetten om aan de verordening te voldoen (art. 111, lid 3). Artikel 101, de bevoegdheid van de Commissie om boeten op te leggen, valt buiten die regel en geldt vanaf de algemene datum, 2 augustus 2026 (art. 113).

Wanneer de Commissie vaststelt dat een aanbieder van een AI-model voor algemene doeleinden opzettelijk of uit nalatigheid de relevante bepalingen heeft geschonden, of niet heeft voldaan aan een verzoek om informatie, een maatregel of toegang voor een evaluatie, kan zij een boete opleggen van ten hoogste 3 % van zijn totale wereldwijde jaaromzet in het voorafgaande boekjaar of 15 miljoen EUR, indien dat hoger is (art. 101, lid 1).