Verboden AI-praktijken volgens artikel 5 AI-verordening
De tien AI-praktijken die artikel 5 verbiedt, wie zich eraan moet houden, de beperkte uitzonderingen en boetes tot 35 miljoen EUR of 7 % van de wereldwijde omzet, als dat bedrag hoger is.
Artikel 5 verbiedt tien AI-praktijken: het in de handel brengen, in gebruik stellen of gebruiken van bepaalde AI-systemen. Operatoren zijn onder meer aanbieders en gebruiksverantwoordelijken.
De boetes bedragen tot 35 miljoen EUR of 7 % van de totale wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99, lid 3). Systemen die uitsluitend voor militaire, defensie- of nationale veiligheidsdoeleinden worden gebruikt, vallen buiten de verordening (artikel 2, lid 3). Volgende stap: toets elk van uw AI-systemen aan de tien praktijken hieronder.
Acht verboden gelden vanaf 2 februari 2025, twee andere vanaf 2 december 2026.
Boetes gelden respectievelijk vanaf 2 augustus 2025 en vanaf 2 december 2026.
Tien AI-praktijken zijn verboden
Subliminale en manipulatieve technieken
art. 5, lid 1, punt a)AI-systemen die subliminale technieken waarvan personen zich niet bewust zijn, of doelbewust manipulatieve of misleidende technieken gebruiken om het gedrag wezenlijk te verstoren. Het verbod geldt wanneer dit aanzienlijke schade veroorzaakt of daar redelijkerwijs waarschijnlijk toe leidt.
Misbruik van kwetsbaarheden
art. 5, lid 1, punt b)AI-systemen die kwetsbaarheden als gevolg van leeftijd, handicap of een specifieke sociale of economische omstandigheid uitbuiten om het gedrag wezenlijk te verstoren op een wijze die aanzienlijke schade veroorzaakt of daar redelijkerwijs waarschijnlijk toe leidt.
Non-consensueel intiem materiaal
art. 5, lid 1, punt ba)AI-systemen die realistische beelden, video's, audio of vergelijkbaar materiaal van de intieme lichaamsdelen van een identificeerbaar persoon, of van die persoon bij seksueel expliciete handelingen, genereren of manipuleren, zonder diens vrije, specifieke, geïnformeerde, ondubbelzinnige en uitdrukkelijke toestemming. Manipulatie die de zichtbaarheid van intieme lichaamsdelen niet vergroot en de aard van de handelingen niet wijzigt, telt niet mee (artikel 5, lid 1 ter). Aanbieders vallen er alleen onder als dit het beoogde doel van het systeem is, of als ontwerp, training, architectuur, mogelijkheden of gebruikersfuncties dit tot een redelijkerwijs voorzienbaar en reproduceerbaar resultaat maken zonder aanzienlijke technische aanpassing en het systeem geen redelijke en adequate waarborgen heeft om dit te voorkomen en te corrigeren. Gebruiksverantwoordelijken vallen eronder als zij een systeem voor dit doel gebruiken (artikel 5, lid 1 bis). Geldt vanaf 2 december 2026.
Materiaal van seksueel misbruik van kinderen
art. 5, lid 1, punt bb)AI-systemen die materiaal of een voorstelling genereren of manipuleren in de zin van artikel 2, punten c) en e), van Richtlijn 2011/93/EU, tenzij een verweer „zonder recht” geldt op grond van het nationale recht. Voor aanbieders en gebruiksverantwoordelijken gelden dezelfde voorwaarden als voor punt b bis) (artikel 5, lid 1 bis). Geldt vanaf 2 december 2026.
Sociale scoring
art. 5, lid 1, punt c)AI-systemen die personen gedurende een bepaalde periode evalueren of classificeren op basis van hun sociale gedrag of persoonlijke kenmerken, wanneer de sociale score leidt tot nadelige behandeling in een niet-gerelateerde sociale context, of tot ongerechtvaardigde of onevenredige behandeling. Het verbod is niet beperkt tot overheidsinstanties.
Misdaadvoorspelling op basis van alleen profilering
art. 5, lid 1, punt d)AI-systemen die het risico dat een persoon een strafbaar feit pleegt beoordelen of voorspellen, uitsluitend op basis van profilering of persoonlijkheidseigenschappen. AI die een menselijke beoordeling ondersteunt op basis van objectieve, verifieerbare feiten die rechtstreeks met een criminele activiteit verband houden, is niet verboden.
Ongerichte scraping van gezichtsafbeeldingen
art. 5, lid 1, punt e)AI-systemen die databanken voor gezichtsherkenning aanleggen of aanvullen door ongerichte scraping van gezichtsafbeeldingen van internet of CCTV-beelden.
Emotieherkenning op het werk en in het onderwijs
art. 5, lid 1, punt f)AI-systemen die emoties van een persoon op de werkplek of in het onderwijs afleiden. Het verbod geldt niet voor systemen die zijn bedoeld voor medische of veiligheidsoverwegingen.
Biometrische categorisering op gevoelige kenmerken
art. 5, lid 1, punt g)AI-systemen die natuurlijke personen individueel in categorieën indelen op basis van biometrische gegevens om hun ras, politieke opvattingen, lidmaatschap van een vakbond, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden. Het labelen of filteren van rechtmatig verkregen biometrische datasets en de categorisering van biometrische gegevens op het gebied van rechtshandhaving vallen er niet onder.
Biometrische identificatie op afstand in real time
art. 5, lid 1, punt h)Het gebruik van systemen voor biometrische identificatie op afstand in real time in openbare ruimten met het oog op de rechtshandhaving is verboden. De drie beperkte uitzonderingen staan verderop.
Verboden praktijken vallen onder de hoogste boetecategorie
Artikel 99, lid 3 stelt dit maximum vast voor het overtreden van een verbod van artikel 5. Het deel van 7 % geldt wanneer de overtreder een onderneming is en heeft betrekking op het voorgaande boekjaar. Voor kmo's, waaronder start-ups, bedraagt de boete maximaal het laagste van de twee bedragen (artikel 99, lid 6). De boete in elk geval hangt af van factoren zoals de ernst en de duur van de inbreuk (artikel 99, lid 7). Elke lidstaat bepaalt in hoeverre boetes aan overheidsinstanties kunnen worden opgelegd (artikel 99, lid 8).
Voor biometrische identificatie in real time gelden drie beperkte uitzonderingen
Het verbod van artikel 5, lid 1, punt h) geldt niet wanneer het gebruik strikt noodzakelijk is voor een van drie doelstellingen. De lidstaten kunnen beslissen of en onder welke voorwaarden zij dit gebruik toestaan (artikel 5, lid 5).
Drie doelstellingen zijn toegestaan
Het gebruik is alleen toegestaan wanneer het strikt noodzakelijk is voor: het gericht zoeken naar specifieke slachtoffers van ontvoering, mensenhandel of seksuele uitbuiting en naar vermiste personen; het voorkomen van een specifieke, aanzienlijke en imminente bedreiging van het leven of de fysieke veiligheid, of van een reële en actuele of reële en voorzienbare dreiging van een terreuraanslag; of het lokaliseren of identificeren van een verdachte van een strafbaar feit uit bijlage II, voor een strafrechtelijk onderzoek, vervolging of tenuitvoerlegging van een straf. Op het strafbare feit moet een vrijheidsstraf of detentiemaatregel van een maximumduur van ten minste vier jaar staan (artikel 5, lid 1, punt h)).
Voorafgaande toestemming en waarborgen zijn vereist
Elk gebruik vereist voorafgaande toestemming van een gerechtelijke instantie of een onafhankelijke administratieve instantie waarvan het besluit bindend is. In een naar behoren gemotiveerde spoedeisende situatie mag het gebruik beginnen zonder toestemming, als die onverwijld en uiterlijk binnen 24 uur wordt aangevraagd. Wordt de toestemming geweigerd, dan stopt het gebruik en worden alle gegevens en resultaten verwijderd (artikel 5, lid 3). Voor het toestaan van een gebruik zijn bovendien een voltooide beoordeling van de gevolgen voor de grondrechten en registratie in de EU-databank vereist. In spoedeisende gevallen mag de registratie onverwijld volgen (artikel 5, lid 2). Elk gebruik moet ook worden gemeld aan de markttoezichtautoriteit en de nationale gegevensbeschermingsautoriteit (artikel 5, lid 4).
Identificatie achteraf is hoogrisico, niet verboden
Biometrische identificatie op afstand die niet in real time plaatsvindt, is niet verboden. Het is een hoogrisicogebruik volgens bijlage III, punt 1 a). Bij een gerichte zoekactie naar een persoon die van een strafbaar feit wordt verdacht of daarvoor is veroordeeld, moet de gebruiksverantwoordelijke vóór het gebruik, of onverwijld en uiterlijk binnen 48 uur, toestemming vragen aan een gerechtelijke instantie of een administratieve instantie waarvan het besluit bindend is en aan rechterlijke toetsing is onderworpen. Dit geldt niet voor de eerste identificatie van een potentiële verdachte op basis van objectieve en verifieerbare feiten die rechtstreeks met het strafbare feit verband houden (artikel 26, lid 10).
Veelgestelde vragen
Geldt het verbod op sociale scoring ook voor particuliere bedrijven?
Ja. Artikel 5, lid 1, punt c), verbiedt systemen voor sociale scoring zonder het verbod tot overheidsinstanties te beperken. Het geldt voor operatoren die zo'n systeem in de handel brengen, in gebruik stellen of gebruiken, binnen het toepassingsgebied van artikel 2. Artikel 2 sluit onder meer uit: militair gebruik, defensie en nationale veiligheid (lid 3), bepaalde overheidsinstanties van derde landen (lid 4), systemen die uitsluitend voor wetenschappelijk onderzoek zijn ontwikkeld (lid 6), onderzoek en testen vóór het in de handel brengen (lid 8) en louter persoonlijk, niet-beroepsmatig gebruik door natuurlijke personen (lid 10).
Hoe toets ik mijn AI-systemen aan de verboden praktijken?
Vergelijk het beoogde doel en het feitelijke gebruik van elk systeem met de tien praktijken in artikel 5, lid 1, en leg het resultaat per systeem vast. Scanara ondersteunt dit met een begeleide beoordeling van artikel 5 en regelgebaseerde codecontroles op herkenbare patronen. Bedoeling en context vragen uw oordeel, en de beslissing blijft bij u.
Gerelateerde gidsen
Scanara bereidt bewijs voor vanuit uw repositories
Scanara leest uw gekoppelde GitHub-repositories en voert regelgebaseerde scans uit op gangbare AI- en machine-learningpatronen. Niet-standaardcode kan het missen. Daarnaast genereert het conceptdocumentatie op basis van sjablonen en uw antwoorden in de beoordelingen, als bewijs voor uw compliancewerk. De indeling bepaalt u zelf.