Is mijn AI-systeem hoog risico? Een beslisboom
Interactieve beslisboom voor risicoklassificatie onder de AI-verordening. Behandelt verboden praktijken van artikel 5, alle 8 hoog-risico categorieën van bijlage III, GPAI-modelverplichtingen en de transparantie van artikel 50.
De EU AI-verordening (Verordening (EU) 2024/1689) deelt AI-systemen in naar hun beoogde doel: verboden praktijken (artikel 5), hoogrisico-AI-systemen (artikel 6 met bijlagen I en III) en systemen met transparantieplichten (artikel 50). AI-modellen voor algemene doeleinden hebben eigen regels (hoofdstuk V). De plichten lopen uiteen van een regelrecht verbod tot vrijwillige gedragscodes.
Gebruik deze interactieve beslisboom om te zien welke regels gelden voor uw AI-systeem. Hij volgt de artikelen 5, 6, 50 en 51 en de bijlagen I en III. Beantwoord elke vraag voor het beoogde doel van uw systeem: het gebruik dat u aangeeft in de gebruiksaanwijzing, het promotie- of verkoopmateriaal en de technische documentatie (artikel 3, punt 12). De uitkomst is een startpunt, geen juridisch advies.
Interactieve beslisboom
Voert uw AI-systeem een door artikel 5 verboden praktijk uit?
Artikel 5 verbiedt onder meer: schadelijke subliminale of manipulatieve technieken; het uitbuiten van kwetsbaarheden door leeftijd, handicap of een sociale of economische situatie; social scoring; het beoordelen van het risico op een strafbaar feit uitsluitend op basis van profilering; het ongericht scrapen van gezichtsafbeeldingen voor gezichtsherkenningsdatabanken; het herkennen van emoties op de werkplek en in het onderwijs (behalve om medische of veiligheidsredenen); biometrische categorisering om ras, politieke opvattingen, vakbondslidmaatschap, religieuze of levensbeschouwelijke overtuigingen, seksleven of seksuele gerichtheid af te leiden; en biometrische identificatie op afstand in real time in openbaar toegankelijke ruimten voor rechtshandhaving, met beperkte uitzonderingen. Vanaf 2 december 2026 verbiedt hij ook AI-systemen die seksueel expliciete deepfakes van identificeerbare personen zonder hun toestemming of materiaal over seksueel misbruik van kinderen genereren (artikel 5, lid 1, punten ba) en bb)).
Het risicoclassificatiekader begrijpen
De AI-verordening kiest voor een risicogebaseerde aanpak: hoe hoger het risico van een AI-systeem voor gezondheid, veiligheid en grondrechten, hoe strenger de eisen. De verordening geldt voor aanbieders, gebruiksverantwoordelijken, importeurs, distributeurs, productfabrikanten, gemachtigden en getroffen personen in de EU, en voor aanbieders en gebruiksverantwoordelijken in derde landen wanneer de output van het systeem in de EU wordt gebruikt (artikel 2, lid 1). Ze geldt niet voor AI-systemen die uitsluitend voor militaire, defensie- of nationale veiligheidsdoeleinden worden gebruikt (artikel 2, lid 3), voor AI-systemen en -modellen die uitsluitend voor wetenschappelijk onderzoek en wetenschappelijke ontwikkeling zijn ontwikkeld en in gebruik gesteld (artikel 2, lid 6), voor onderzoek, tests en ontwikkeling vóór het in de handel brengen of in gebruik stellen van een systeem, behalve tests onder reële omstandigheden (artikel 2, lid 8), en niet voor natuurlijke personen die AI gebruiken in een louter persoonlijke, niet-beroepsactiviteit (artikel 2, lid 10). AI-systemen die onder vrije en opensourcelicenties worden vrijgegeven, vallen er ook buiten, tenzij ze als hoogrisicosystemen in de handel worden gebracht of in gebruik worden gesteld of onder artikel 5 of 50 vallen (artikel 2, lid 12). De aanduidingen ‘beperkt risico’ en ‘minimaal risico’ zijn gangbare afkortingen; de verordening zelf gebruikt ze niet.
Verboden praktijken (artikel 5)
AI-praktijken die de verordening volledig verbiedt (artikel 5), zoals social scoring, schadelijke subliminale of manipulatieve technieken, het uitbuiten van kwetsbaarheden en bepaalde biometrische praktijken. Boetes bedragen tot 35 miljoen EUR of, voor een onderneming, 7 % van de totale wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99, lid 3).
Hoog-risico
AI-systemen die een veiligheidscomponent zijn van een product onder een wet uit bijlage I en een conformiteitsbeoordeling door een derde partij moeten ondergaan, of die worden gebruikt voor de toepassingen uit bijlage III, zoals biometrie, kritieke infrastructuur, onderwijs, werkgelegenheid, rechtshandhaving en migratie. Ze moeten voldoen aan eisen zoals risicobeheer, datagovernance, technische documentatie, het bijhouden van logs, transparantie, menselijk toezicht, nauwkeurigheid en robuustheid. De eisen gelden voor systemen uit bijlage III vanaf 2 december 2027 en voor systemen uit bijlage I, afdeling A, vanaf 2 augustus 2028 (artikel 113, zoals gewijzigd bij Verordening (EU) 2026/1744). Systemen die vóór die data in de handel zijn gebracht of in gebruik zijn gesteld, vallen er pas onder na significante ontwerpwijzigingen; in elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111(2)). Voor systemen uit afdeling B gelden alleen artikel 6(1), artikel 60 bis en de artikelen 102 tot en met 112, en de artikelen 57 tot en met 59 alleen voor zover de sectorwet de hoogrisico-eisen heeft opgenomen (artikel 2(2)).
Transparantieplichten (artikel 50)
AI-systemen die rechtstreeks met mensen communiceren, synthetische audio, beelden, video of tekst genereren, of emoties herkennen of mensen biometrisch categoriseren. Aanbieders en gebruiksverantwoordelijken moeten vanaf 2 augustus 2026 mensen informeren of content markeren, zoals artikel 50 vereist. De informatie moet duidelijk zijn en uiterlijk bij de eerste interactie of het eerste contact worden gegeven (artikel 50, lid 5).
Alle overige AI-systemen
AI-systemen waarop geen verbod van artikel 5, geen hoogrisicoregel en geen plicht van artikel 50 van toepassing is. Algemene regels blijven gelden, zoals AI-geletterdheid (artikel 4). Vrijwillige gedragscodes worden aangemoedigd (artikel 95).
Veelvoorkomende classificatiefouten
Indelen op label in plaats van op beoogd doel
De indeling volgt het beoogde doel: het gebruik dat de aanbieder aangeeft in de gebruiksaanwijzing, het promotie- of verkoopmateriaal en de technische documentatie (artikel 3, punt 12). Een systeem voor werving, bijvoorbeeld om sollicitaties te filteren of kandidaten te beoordelen, is een toepassing uit bijlage III (punt 4(a)). Het een suggestietool noemen verandert daar niets aan. Alleen de voorwaarden van artikel 6(3) kunnen dat, en nooit als het systeem profilering van natuurlijke personen uitvoert.
De artikel 6(3)-uitzondering negeren
Niet elk systeem uit bijlage III is hoogrisico. Een systeem dat geen significant risico op schade inhoudt en aan een van de vier voorwaarden van artikel 6(3) voldoet, wordt niet als hoogrisico beschouwd. De uitzondering geldt nooit als het systeem profilering van natuurlijke personen uitvoert. De aanbieder moet de beoordeling documenteren voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld en moet het systeem toch registreren in de EU-databank (artikel 6(4), artikel 49(2)).
Downstream-classificatie vergeten
Een GPAI-model wordt zelf niet als hoogrisico ingedeeld. Bouwt u een AI-systeem op een model en is dat systeem hoogrisico volgens artikel 6, dan draagt de aanbieder van dat systeem de hoogrisicoplichten; de plichten van de modelaanbieder uit artikel 53 blijven daar los van staan. Deel het systeem in naar zijn beoogde doel, niet alleen naar het model.
Veelgestelde vragen
Hoe weet ik of mijn AI-systeem hoogrisico is?
Een AI-systeem is hoogrisico als het aan een van twee routes voldoet. Route 1 (artikel 6(1)): het is een veiligheidscomponent van een product, of zelf een product, onder een wet uit bijlage I, en dat product moet een conformiteitsbeoordeling door een derde partij ondergaan. Route 2 (artikel 6(2)): het wordt gebruikt voor een toepassing uit bijlage III en de uitzondering van artikel 6(3) is niet van toepassing; profilering van natuurlijke personen is nooit uitgezonderd. Voor producten uit bijlage I, afdeling B, gelden alleen artikel 6(1), artikel 60 bis en de artikelen 102 tot en met 112, en de artikelen 57 tot en met 59 alleen voor zover de sectorwet de hoogrisico-eisen heeft opgenomen (artikel 2(2)). Loop met de beslisboom hierboven de criteria door.
Wat gebeurt er als ik mijn AI-systeem verkeerd classificeer?
Wordt een systeem uit bijlage III onterecht als niet-hoogrisico ingedeeld om de regels te omzeilen, dan kan de aanbieder een boete krijgen op grond van artikel 99 (artikel 80(7)). Boetes voor het schenden van de aanbiederplichten van artikel 16 bedragen tot 15 miljoen EUR of, voor een onderneming, 3 % van de totale wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Voor mkb-bedrijven en kleine midcapondernemingen geldt het laagste van de twee bedragen als grens (artikel 99(6) en (6 bis)).
Kan de risicoclassificatie van een AI-systeem in de loop van de tijd veranderen?
Ja. De Commissie kan bijlage III en de voorwaarden van artikel 6(3) wijzigen bij gedelegeerde handelingen (artikel 7, artikel 6(6) en (7)). Ook een gewijzigd beoogd doel kan de indeling veranderen: wie het beoogde doel van een systeem dat niet hoogrisico was en al in de handel of in gebruik is zo wijzigt dat het hoogrisico wordt, wordt de aanbieder ervan (artikel 25(1)(c)). Beoordeel de indeling opnieuw zodra het doel of de gebruikscontext verandert. Verordening (EU) 2026/1744 (de ‘Digital Omnibus on AI’) heeft de data voor de hoogrisicoregels vastgesteld op 2 december 2027 voor systemen uit bijlage III en 2 augustus 2028 voor systemen uit bijlage I. De verboden van artikel 5 gelden sinds 2 februari 2025 (artikel 5(1), punten ba) en bb): vanaf 2 december 2026) en de GPAI-plichten sinds 2 augustus 2025.
Maakt het gebruik van een AI-API van derden mijn systeem hoogrisico?
Dat hangt af van het beoogde doel van uw systeem, niet van waar het model vandaan komt. Integreert u een AI-API van een derde in een systeem met een toepassing uit bijlage III, zoals kredietscoring of werving, dan is uw systeem hoogrisico, tenzij de uitzondering van artikel 6(3) geldt. Wie dat systeem onder eigen naam of merk in de handel brengt of in gebruik stelt, is de aanbieder ervan (artikel 3, punt 3) en draagt de aanbiederplichten, ongeacht wie het model heeft gebouwd. De aanbieder van het model heeft eigen GPAI-plichten.
Scanara bereidt bewijs voor vanuit uw repositories
Scanara leest uw gekoppelde GitHub-repositories en voert regelgebaseerde scans uit op gangbare AI- en machine-learningpatronen. Niet-standaardcode kan het missen. Daarnaast genereert het conceptdocumentatie op basis van sjablonen en uw antwoorden in de beoordelingen, als bewijs voor uw compliancewerk. De indeling bepaalt u zelf.