AI-systemen toetsen aan de verboden van artikel 5

• Subliminale en manipulatieve technieken

  art. 5, lid 1, punt a)

  AI-systemen die subliminale technieken waarvan personen zich niet bewust zijn, of doelbewust manipulatieve of misleidende technieken gebruiken om het gedrag wezenlijk te verstoren. Het verbod geldt wanneer dit aanzienlijke schade veroorzaakt of daar redelijkerwijs waarschijnlijk toe leidt.

• Misbruik van kwetsbaarheden

  art. 5, lid 1, punt b)

  AI-systemen die kwetsbaarheden als gevolg van leeftijd, handicap of een specifieke sociale of economische omstandigheid uitbuiten om het gedrag wezenlijk te verstoren op een wijze die aanzienlijke schade veroorzaakt of daar redelijkerwijs waarschijnlijk toe leidt.

• Non-consensueel intiem materiaal

  art. 5, lid 1, punt ba)

  AI-systemen die realistische beelden, video's, audio of vergelijkbaar materiaal van de intieme lichaamsdelen van een identificeerbaar persoon, of van die persoon bij seksueel expliciete handelingen, genereren of manipuleren, zonder diens vrije, specifieke, geïnformeerde, ondubbelzinnige en uitdrukkelijke toestemming. Manipulatie die de zichtbaarheid van intieme lichaamsdelen niet vergroot en de aard van de handelingen niet wijzigt, telt niet mee (artikel 5, lid 1 ter). Aanbieders vallen er alleen onder als dit het beoogde doel van het systeem is, of als ontwerp, training, architectuur, mogelijkheden of gebruikersfuncties dit tot een redelijkerwijs voorzienbaar en reproduceerbaar resultaat maken zonder aanzienlijke technische aanpassing en het systeem geen redelijke en adequate waarborgen heeft om dit te voorkomen en te corrigeren. Gebruiksverantwoordelijken vallen eronder als zij een systeem voor dit doel gebruiken (artikel 5, lid 1 bis). Geldt vanaf 2 december 2026.

• Materiaal van seksueel misbruik van kinderen

  art. 5, lid 1, punt bb)

  AI-systemen die materiaal of een voorstelling genereren of manipuleren in de zin van artikel 2, punten c) en e), van Richtlijn 2011/93/EU, tenzij een verweer „zonder recht” geldt op grond van het nationale recht. Voor aanbieders en gebruiksverantwoordelijken gelden dezelfde voorwaarden als voor punt b bis) (artikel 5, lid 1 bis). Geldt vanaf 2 december 2026.

• Sociale scoring

  art. 5, lid 1, punt c)

  AI-systemen die personen gedurende een bepaalde periode evalueren of classificeren op basis van hun sociale gedrag of persoonlijke kenmerken, wanneer de sociale score leidt tot nadelige behandeling in een niet-gerelateerde sociale context, of tot ongerechtvaardigde of onevenredige behandeling. Het verbod is niet beperkt tot overheidsinstanties.

• Misdaadvoorspelling op basis van alleen profilering

  art. 5, lid 1, punt d)

  AI-systemen die het risico dat een persoon een strafbaar feit pleegt beoordelen of voorspellen, uitsluitend op basis van profilering of persoonlijkheidseigenschappen. AI die een menselijke beoordeling ondersteunt op basis van objectieve, verifieerbare feiten die rechtstreeks met een criminele activiteit verband houden, is niet verboden.

• Ongerichte scraping van gezichtsafbeeldingen

  art. 5, lid 1, punt e)

  AI-systemen die databanken voor gezichtsherkenning aanleggen of aanvullen door ongerichte scraping van gezichtsafbeeldingen van internet of CCTV-beelden.

• Emotieherkenning op het werk en in het onderwijs

  art. 5, lid 1, punt f)

  AI-systemen die emoties van een persoon op de werkplek of in het onderwijs afleiden. Het verbod geldt niet voor systemen die zijn bedoeld voor medische of veiligheidsoverwegingen.

• Biometrische categorisering op gevoelige kenmerken

  art. 5, lid 1, punt g)

  AI-systemen die natuurlijke personen individueel in categorieën indelen op basis van biometrische gegevens om hun ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden. Het labelen of filteren van rechtmatig verkregen biometrische datasets en de categorisering van biometrische gegevens op het gebied van rechtshandhaving vallen er niet onder.

• Biometrische identificatie op afstand in real time

  art. 5, lid 1, punt h)

  Het gebruik van systemen voor biometrische identificatie op afstand in real time in openbare ruimten met het oog op de rechtshandhaving is verboden. De drie beperkte uitzonderingen staan verderop.

Het verbod van artikel 5, lid 1, punt h) geldt niet wanneer het gebruik strikt noodzakelijk is voor een van drie doelstellingen. De lidstaten kunnen beslissen of en onder welke voorwaarden zij dit gebruik toestaan (artikel 5, lid 5).

• Drie doelstellingen zijn toegestaan

  Het gebruik is alleen toegestaan wanneer het strikt noodzakelijk is voor: het gericht zoeken naar specifieke slachtoffers van ontvoering, mensenhandel of seksuele uitbuiting en naar vermiste personen; het voorkomen van een specifieke, aanzienlijke en imminente bedreiging van het leven of de fysieke veiligheid, of van een reële en actuele of reële en voorzienbare dreiging van een terreuraanslag; of het lokaliseren of identificeren van een verdachte van een strafbaar feit uit bijlage II, voor een strafrechtelijk onderzoek, vervolging of tenuitvoerlegging van een straf. Op het strafbare feit moet een vrijheidsstraf of detentiemaatregel van een maximumduur van ten minste vier jaar staan (artikel 5, lid 1, punt h)).

• Voorafgaande toestemming en waarborgen zijn vereist

  Elk gebruik vereist voorafgaande toestemming van een gerechtelijke instantie of een onafhankelijke administratieve instantie waarvan het besluit bindend is. In een naar behoren gemotiveerde spoedeisende situatie mag het gebruik beginnen zonder toestemming, als die onverwijld en uiterlijk binnen 24 uur wordt aangevraagd. Wordt de toestemming geweigerd, dan stopt het gebruik en worden alle gegevens en resultaten verwijderd (artikel 5, lid 3). Voor het toestaan van een gebruik zijn bovendien een voltooide beoordeling van de gevolgen voor de grondrechten en registratie in de EU-databank vereist. In spoedeisende gevallen mag de registratie onverwijld volgen (artikel 5, lid 2). Elk gebruik moet ook worden gemeld aan de markttoezichtautoriteit en de nationale gegevensbeschermingsautoriteit (artikel 5, lid 4).

• Identificatie achteraf is hoogrisico, niet verboden

  Biometrische identificatie op afstand die niet in real time plaatsvindt, is niet verboden. Het is een hoogrisicogebruik volgens bijlage III, punt 1 a). Bij een gerichte zoekactie naar een persoon die van een strafbaar feit wordt verdacht of daarvoor is veroordeeld, moet de gebruiksverantwoordelijke vóór het gebruik, of onverwijld en uiterlijk binnen 48 uur, toestemming vragen aan een gerechtelijke instantie of een administratieve instantie waarvan het besluit bindend is en aan rechterlijke toetsing is onderworpen. Dit geldt niet voor de eerste identificatie van een potentiële verdachte op basis van objectieve en verifieerbare feiten die rechtstreeks met het strafbare feit verband houden (artikel 26, lid 10).

• Punten a) tot en met h): sinds 2 februari 2025

  De verboden in artikel 5, lid 1, punten a) tot en met h), gelden sinds 2 februari 2025 (artikel 113, onder a)). Boetes gelden vanaf 2 augustus 2025.

• Punten b bis) en b ter) en artikel 5, leden 1 bis en 1 ter: vanaf 2 december 2026

  De verboden op non-consensueel intiem materiaal en op materiaal van seksueel misbruik van kinderen, met hun voorwaarden, gelden vanaf 2 december 2026 (artikel 113, onder a)). Boetes gelden vanaf dezelfde datum.

Screening is een begeleide beoordeling. Scanara beslist niet of een praktijk verboden is: bedoeling en context vragen uw oordeel, en de beslissing blijft bij u.

• Verboden AI-praktijken volgens artikel 5 AI-verordening

  Legt elk van de tien verboden, de uitzonderingen en de boetes volledig uit.

• AI-verordening: tijdlijn van deadlines van 2024 tot 2030

  Elke toepassingsdatum van de verordening, met het bijbehorende artikel.

• AI-verordening vs AVG: verschillen en overlap

  Beide wetten gelden naast elkaar. Artikel 5 laat artikel 9 AVG onverlet voor biometrische gegevens buiten de rechtshandhaving.