AI-verordening kritieke infrastructuur: naleving

De verordening kent geen sectorbreed regime voor kritieke infrastructuur. Bijlage III, punt 2, is het gebied met een hoog risico met de titel ‘Kritieke infrastructuur’. Deze site gebruikt die woorden voor AI die via de punten hieronder onder de verordening valt.

• Bijlage III, punt 2

  AI-systemen die bedoeld zijn om te worden gebruikt als veiligheidscomponent bij het beheer of de exploitatie van kritieke digitale infrastructuur, wegverkeer of bij de levering van water, gas, verwarming en elektriciteit staan in bijlage III, punt 2. Zij hebben een hoog risico op grond van artikel 6, lid 2, onder voorbehoud van artikel 6, lid 3. Punt 2 heeft geen onderverdelingen. Het noemt geen spoorwegvervoer, luchtvaart of scheepvaart, havens of luchthavens. Een systeem voor een van deze terreinen heeft alleen een hoog risico als een ander punt van bijlage III of bijlage I het dekt.

• Alleen veiligheidscomponenten vallen eronder

  Een veiligheidscomponent is een component van een product of van een AI-systeem die een veiligheidsfunctie voor dat product of AI-systeem vervult of waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid van personen of eigendom in gevaar brengt. Een component vervult een veiligheidsfunctie wanneer het beoogde doel ervan is om risico’s voor de gezondheid en veiligheid van personen of eigendom te voorkomen of te beperken (artikel 3, punt 14). AI-systemen die uitsluitend worden gebruikt voor niet-veiligheidsgerelateerde aspecten van bijstand aan gebruikers, optimalisering van de prestaties, efficiëntie van de dienstverlening, automatisering of gemak of kwaliteitscontrole, worden niet als veiligheidscomponenten aangemerkt (artikel 6, lid 1 bis). AI-systemen waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid in gevaar zou brengen, worden beschouwd als veiligheidscomponenten (artikel 6, lid 1 ter). Artikel 6, lid 5, verplichtte de Commissie om uiterlijk 2 februari 2026 richtsnoeren te verstrekken met een uitputtende lijst van praktische voorbeelden van gebruiksgevallen met en zonder hoog risico. Overweging 55 van de tekst van 2024 beschrijft veiligheidscomponenten van kritieke infrastructuur als systemen die worden gebruikt om de fysieke integriteit van kritieke infrastructuur of de gezondheid en veiligheid van personen en eigendom rechtstreeks te beschermen, maar die niet noodzakelijk zijn voor de werking van het systeem. Er staat dat componenten die uitsluitend voor cyberbeveiligingsdoeleinden bedoeld zijn, niet als veiligheidscomponent moeten gelden. Een overweging is geen bindende regel. Of een bepaald voorspellings-, optimaliserings- of onderhoudsinstrument een veiligheidscomponent is, is een vraag voor een jurist.

• ‘Kritieke infrastructuur’ en ‘kritieke digitale infrastructuur’

  Artikel 3, punt 62, definieert ‘kritieke infrastructuur’ door te verwijzen naar artikel 2, punt 4, van Richtlijn (EU) 2022/2557. De verordening definieert ‘kritieke digitale infrastructuur’, de term in punt 2, niet apart. Welke digitale systemen eronder vallen, is een vraag voor een jurist.

• Producten uit bijlage I vormen een aparte route

  Een AI-systeem kan ook een hoog risico hebben op grond van artikel 6, lid 1. Daarvoor moet het een veiligheidscomponent van een product zijn, of zelf een product, dat valt onder de harmonisatiewetgeving van de Unie in bijlage I, waarbij het product een conformiteitsbeoordeling door een derde moet ondergaan. Afdeling A van bijlage I noemt bijvoorbeeld drukapparatuur (punt 7) en toestellen die gasvormige brandstoffen verbranden (punt 10). De eisen voor deze systemen gelden vanaf 2 augustus 2028 (artikel 113, punt c), ii)). Afdeling B noemt bijvoorbeeld het spoorwegsysteem (punt 17, Richtlijn (EU) 2016/797). Voor AI-systemen met een hoog risico die verband houden met producten onder afdeling B zijn alleen artikel 6, lid 1, artikel 60 bis en de artikelen 102 tot en met 112 van toepassing. De artikelen 57, 58 en 59 zijn alleen van toepassing voor zover de eisen voor AI-systemen met een hoog risico in die wetgeving zijn opgenomen (artikel 2, lid 2). De artikelen 9 tot en met 15 horen niet bij de bepalingen die van toepassing zijn.

• Artikel 6, lid 3, kan een systeem uit bijlage III halen

  Een systeem onder punt 2 is een AI-systeem met een hoog risico op grond van artikel 6, lid 2. Volgens artikel 6, lid 3, is het geen AI-systeem met een hoog risico als het geen significant risico op schade voor de gezondheid, veiligheid of grondrechten inhoudt. Daaronder valt dat het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt. De verordening past deze uitzondering toe wanneer aan een van de volgende voorwaarden is voldaan (artikel 6, lid 3, punten a) tot en met d)). Het systeem is bedoeld om een beperkte procedurele taak uit te voeren. Of het is bedoeld om het resultaat van een eerder voltooide menselijke activiteit te verbeteren. Of het is bedoeld om besluitvormingspatronen of afwijkingen van eerdere besluitvormingspatronen op te sporen en is niet bedoeld om de eerder voltooide menselijke beoordeling zonder behoorlijke menselijke toetsing te vervangen of te beïnvloeden. Of het is bedoeld om een voorbereidende taak uit te voeren voor een beoordeling die relevant is voor de in bijlage III vermelde gebruiksgevallen. Hoe deze voorwaarden zich verhouden tot de toets van het significante risico, is een vraag voor een jurist. Het systeem is altijd een AI-systeem met een hoog risico als het profilering van natuurlijke personen uitvoert. Profilering is gedefinieerd in artikel 4, punt 4, AVG (artikel 3, punt 52). Een aanbieder die zich op de uitzondering beroept, documenteert zijn beoordeling voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld. Hij moet het systeem ook registreren (artikel 6, lid 4, artikel 49, lid 2).

• Ernstige incidenten bij kritieke infrastructuur

  Een ernstig incident omvat een incident of gebrekkig functioneren van een AI-systeem dat direct of indirect leidt tot een ernstige en onomkeerbare verstoring van het beheer of de exploitatie van kritieke infrastructuur (artikel 3, punt 49, b)). De aanbieder moet het onmiddellijk melden en uiterlijk twee dagen nadat de aanbieder of, in voorkomend geval, de gebruiksverantwoordelijke ervan op de hoogte is geraakt (artikel 73, lid 3). Een gebruiksverantwoordelijke die een ernstig incident heeft vastgesteld, informeert eerst de aanbieder en daarna de importeur of distributeur en de betrokken markttoezichtautoriteiten (artikel 26, lid 5). Voor AI-systemen uit bijlage III die in de handel worden gebracht of in gebruik worden gesteld door aanbieders die onder wetgevingsinstrumenten van de Unie met gelijkwaardige meldingsverplichtingen vallen, is de melding beperkt tot de incidenten van artikel 3, punt 49), c) (artikel 73, lid 9). Welke instrumenten meetellen, is een vraag voor een jurist. Artikel 113 noemt voor deze bepaling geen aparte datum; zie de rij over data.

De aanbieder ontwikkelt een AI-systeem, of laat het ontwikkelen. Hij brengt het onder eigen naam of merk in de handel of stelt het onder eigen naam of merk in gebruik (artikel 3, punt 3). Onder in gebruik stellen valt ook de levering voor eigen gebruik van de aanbieder (artikel 3, punt 11). Een netbeheerder, gemeente of wegbeheerder die een systeem ontwikkelt en onder eigen naam in gebruik stelt, is dus een aanbieder. Wie een systeem onder eigen verantwoordelijkheid gebruikt, is een gebruiksverantwoordelijke (artikel 3, punt 4). Een gebruiksverantwoordelijke wordt in drie gevallen de aanbieder. Hij zet zijn naam of merk op een AI-systeem met een hoog risico dat al in de handel is gebracht, onverminderd contractuele regelingen waarin wordt bepaald dat de verplichtingen anders worden toegewezen. Hij brengt een substantiële wijziging aan in zo’n systeem, waardoor het een AI-systeem met een hoog risico blijft. Of hij wijzigt het beoogde doel van een niet als hoog risico geclassificeerd systeem, zodat het een AI-systeem met een hoog risico wordt (artikel 25, lid 1). De aanbieder die het systeem als eerste in de handel heeft gebracht of in gebruik heeft gesteld, wordt dan niet langer als aanbieder van dat specifieke systeem beschouwd en moet nauw samenwerken met de nieuwe aanbieder (artikel 25, lid 2). Dit geldt niet als de oorspronkelijke aanbieder duidelijk heeft aangegeven dat zijn systeem niet mag worden gewijzigd in een AI-systeem met een hoog risico.

Aanbieders zorgen ervoor dat hun AI-systemen met een hoog risico voldoen aan de eisen van afdeling 2 van hoofdstuk III, de artikelen 8 tot en met 15 (artikel 16, punt a)). Ze moeten ook voldoen aan de andere verplichtingen voor aanbieders in artikel 16.

• art. 9
  Systeem voor risicobeheer

  Een doorlopend iteratief proces gedurende de levenscyclus, met testen aan de hand van vooraf vastgestelde beoordelingsmaatstaven en probabilistische drempels die passend zijn voor het beoogde doel.

• art. 10
  Data en datagovernance

  Datasets voor training, validatie en tests die voldoen aan de kwaliteitscriteria van artikel 10, met inbegrip van een beoordeling met het oog op mogelijke vooringenomenheid.

• art. 12
  Logging in het ontwerp

  Het systeem moet technisch zo zijn vormgegeven dat gebeurtenissen (logs) gedurende de levenscyclus automatisch worden geregistreerd.

• art. 13
  Gebruiksaanwijzing

  Informatie waarmee gebruiksverantwoordelijken de output kunnen interpreteren en op passende wijze gebruiken, met inbegrip van de opgegeven mate van nauwkeurigheid en de bijbehorende beoordelingsmaatstaven.

• art. 14
  Menselijk toezicht in het ontwerp

  Maatregelen waarmee natuurlijke personen tijdens het gebruik van het systeem doeltreffend toezicht kunnen uitoefenen.

• art. 15
  Nauwkeurigheid, robuustheid en cyberbeveiliging

  Een passend niveau, consistent bereikt gedurende de hele levenscyclus. De niveaus van nauwkeurigheid en de relevante maatstaven voor de nauwkeurigheid worden vermeld in de gebruiksaanwijzing.

• art. 17
  Systeem voor kwaliteitsbeheer

  Schriftelijke beleidslijnen, procedures en instructies voor de aspecten van artikel 17, lid 1, uitgevoerd in verhouding tot de omvang van de organisatie van de aanbieder (artikel 17, lid 2).

• art. 43(2)
  Conformiteitsbeoordeling

  Voor de systemen in de punten 2 tot en met 8 van bijlage III, waartoe punt 2 behoort, volgt de aanbieder de conformiteitsbeoordelingsprocedure op basis van interne controle (bijlage VI). Voor die procedure is de betrokkenheid van een aangemelde instantie niet nodig. Artikel 113 noemt voor deze bepaling geen aparte datum; zie de rij over data.

• art. 16, 49(1), (5)
  EU-conformiteitsverklaring, CE-markering en registratie

  De aanbieder stelt een EU-conformiteitsverklaring op en brengt de CE-markering aan (artikel 16, punten g) en h)). Artikel 49, lid 1, sluit de systemen als bedoeld in punt 2 van bijlage III uit van registratie in de EU-databank. Volgens artikel 49, lid 5, worden zij op nationaal niveau geregistreerd. Artikel 113 noemt voor deze bepaling geen aparte datum; zie de rij over data.

• art. 72, 73
  Monitoring na het in de handel brengen en ernstige incidenten

  De aanbieder stelt een systeem voor monitoring na het in de handel brengen vast en documenteert het (artikel 72, lid 1) en meldt ernstige incidenten bij de markttoezichtautoriteiten (artikel 73). Artikel 113 noemt voor deze bepaling geen aparte datum; zie de rij over data.

• art. 26(1), (2)
  Gebruik volgens de aanwijzingen, toezicht opdragen

  Gebruiksverantwoordelijken nemen passende technische en organisatorische maatregelen om het systeem te gebruiken in overeenstemming met de gebruiksaanwijzing. Zij dragen het menselijk toezicht op aan natuurlijke personen die over de nodige bekwaamheid, opleiding en autoriteit beschikken.

• art. 26(4)–(6)
  Inputdata, monitoring en logs

  Voor zover zij controle hebben over de inputdata, zorgen gebruiksverantwoordelijken ervoor dat die relevant en voldoende representatief zijn. Zij monitoren de werking van het systeem op basis van de gebruiksaanwijzing. Zij bewaren de logs die onder hun controle vallen ten minste zes maanden, tenzij anders is bepaald in het toepasselijke Unie- of nationale recht.

• art. 26(11)
  De betrokken personen informeren

  Gebruiksverantwoordelijken van AI-systemen met een hoog risico uit bijlage III die beslissingen met betrekking tot natuurlijke personen nemen of helpen nemen, informeren die personen dat het systeem op hen wordt toegepast, onverminderd artikel 50 (artikel 26, lid 11).

• art. 27(1)
  Geen effectbeoordeling op de grondrechten voor punt 2

  Artikel 27, lid 1, vereist een beoordeling van het effect op de grondrechten voordat een AI-systeem met een hoog risico als bedoeld in artikel 6, lid 2, in gebruik wordt genomen, ‘met uitzondering van AI-systemen met een hoog risico die bedoeld zijn om te worden gebruikt op het in punt 2 van bijlage III vermelde gebied’. Een gebruiksverantwoordelijke van een systeem onder punt 2 is voor dat systeem dus niet aan artikel 27, lid 1, gebonden. Voor elk ander AI-systeem met een hoog risico uit bijlage III dat hij gebruikt, controleert de gebruiksverantwoordelijke artikel 27, lid 1, apart.

• art. 49(3), (5), 86(1)
  Geen registratie door de gebruiksverantwoordelijke in de EU-databank en geen recht op uitleg voor punt 2

  Artikel 49, lid 3, verplicht gebruiksverantwoordelijken die overheidsinstanties, instellingen, organen of instanties van de Unie zijn, of personen die namens hen optreden, zich te registreren en het gebruik van een systeem uit bijlage III in de EU-databank te registreren. Het zondert de systemen onder punt 2 van bijlage III uit. Volgens artikel 49, lid 5, worden systemen onder punt 2 op nationaal niveau geregistreerd. Artikel 86, lid 1, geeft het recht op uitleg voor systemen uit bijlage III ‘met uitzondering van de systemen onder punt 2’.

• Datums

  De eisen voor deze toepassingen uit bijlage III gelden vanaf 2 december 2027 (artikel 113, punt c), i)). Een systeem dat vóór die datum in de handel is gebracht of in gebruik is gesteld, valt er alleen onder als het ontwerp daarna aanzienlijk wordt gewijzigd. In elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111, lid 2). De artikelen 43 en 49 (hoofdstuk III, afdeling 5) en de artikelen 72 en 73 (hoofdstuk IX) vallen buiten artikel 113, punt c). Artikel 113 noemt voor hen geen aparte datum; volgens de algemene regel gelden zij dus vanaf 2 augustus 2026. Hoe dit zich verhoudt tot de datum hierboven, is een vraag voor een jurist.

• Boetes

  Aanbieders zorgen ervoor dat hun AI-systemen met een hoog risico voldoen aan de eisen van afdeling 2 van hoofdstuk III. Daartoe behoren de artikelen 9 tot en met 15 (artikel 16, punt a)). Een inbreuk op de verplichtingen van aanbieders in artikel 16 of van gebruiksverantwoordelijken in artikel 26 kan worden beboet. De boete bedraagt maximaal 15 miljoen EUR of, voor een onderneming, maximaal 3 % van haar totale wereldwijde jaarlijkse omzet in het voorafgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 4, punten a) en e)). Voor mkb-bedrijven, met inbegrip van start-ups, geldt voor elke boete als maximum het lagere van de twee grenzen (artikel 99, lid 6). Hetzelfde geldt voor kleine midcapondernemingen (artikel 3, punt 14 ter, artikel 99, lid 6 bis). Elke lidstaat stelt regels vast betreffende de vraag in hoeverre administratieve geldboeten kunnen worden opgelegd aan in die lidstaat gevestigde overheidsinstanties of -organen (artikel 99, lid 8).

• Bereik en grenzen van de verordening

  De verordening is van toepassing op aanbieders en gebruiksverantwoordelijken die in een derde land zijn gevestigd of er zich bevinden, indien de output van het AI-systeem in de Unie wordt gebruikt (artikel 2, lid 1, punt c)). Zij is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen, en doet geen afbreuk aan de bevoegdheden van de lidstaten op het gebied van nationale veiligheid (artikel 2, lid 3). Zij is niet van toepassing op AI-systemen wanneer en voor zover zij uitsluitend voor militaire doeleinden, defensiedoeleinden of doeleinden op het gebied van nationale veiligheid in de handel worden gebracht, in gebruik worden gesteld of, al dan niet gewijzigd, worden gebruikt (artikel 2, lid 3). Zij is niet van toepassing op verplichtingen van gebruiksverantwoordelijken die natuurlijke personen zijn en AI-systemen gebruiken in het kader van een louter persoonlijke niet-professionele activiteit (artikel 2, lid 10). De verordening is niet van toepassing op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel (artikel 2, lid 6). Zij is niet van toepassing op onderzoeks-, test- of ontwikkelingsactiviteiten voordat een systeem in de handel wordt gebracht of in gebruik wordt gesteld. Testen onder reële omstandigheden vallen niet onder die uitsluiting (artikel 2, lid 8). AI-systemen die worden vrijgegeven onder vrije en opensourcelicenties vallen buiten de verordening. Die uitsluiting geldt niet voor AI-systemen die als systeem met een hoog risico in de handel worden gebracht of in gebruik worden gesteld, of die onder artikel 5 of 50 vallen (artikel 2, lid 12).

• Geen getalsmatige drempels of normen voor infrastructuur

  De verordening noemt geen nauwkeurigheidswaarde, reactietijd, beschikbaarheidsniveau, redundantieniveau of technische norm voor veiligheidscomponenten in kritieke infrastructuur. Aanbieders stellen de maatstaven voor het testen vast (artikel 9, lid 8) en vermelden de nauwkeurigheidsniveaus en maatstaven in de gebruiksaanwijzing (artikel 15, lid 3). De verordening zelf noemt geen geharmoniseerde norm. AI-systemen met een hoog risico die in overeenstemming zijn met geharmoniseerde normen waarvan de referenties in het Publicatieblad van de Europese Unie zijn bekendgemaakt, worden geacht in overeenstemming te zijn met de eisen van afdeling 2, voor zover die normen die eisen dekken (artikel 40, lid 1). Artikel 42 voegt vermoedens van conformiteit toe met artikel 10, lid 4 (lid 1), en met de cyberbeveiligingseisen van artikel 15 (leden 2 en 3). De Commissie ontwikkelt richtsnoeren over de praktische toepassing van de vereisten en verplichtingen in de artikelen 8 tot en met 15 en de artikelen 25 en 26 (artikel 96, lid 1, punt a)).

• Ander recht geldt naast de verordening

  Ander Unierecht en nationaal recht blijft van toepassing, bijvoorbeeld over de bescherming van persoonsgegevens (artikel 2, lid 7) en productveiligheid (artikel 2, lid 9). Regels over de beveiliging van netwerken en infrastructuur staan los van de verordening. Deze pagina beschrijft ze niet.

• Voorbeeld: één inventaris van AI-systemen

  Voorbeeld, geen eis van de verordening: een netbeheerder of wegbeheerder zou één inventaris van zijn AI-systemen kunnen bijhouden. Daarin zou per systeem kunnen staan of het een veiligheidscomponent is op een terrein van punt 2, de beoordeling op grond van artikel 6, lid 3, als hij zich daarop beroept, en of de organisatie aanbieder of gebruiksverantwoordelijke is.

Elke pagina past één artikel toe op AI voor kritieke infrastructuur.

• Artikel 9 voor AI voor kritieke infrastructuur: systeem voor risicobeheer

  Systeem voor risicobeheer voor AI met veiligheidscomponent.

• Artikel 10 voor AI voor kritieke infrastructuur: data en datagovernance

  Datasets, onderzoek naar vooringenomenheid en bijzondere categorieën persoonsgegevens.

• Artikel 12 voor AI voor kritieke infrastructuur: registratie en logs

  Automatische registratie, wie de logs bewaart en ernstige incidenten.

• Artikel 13 voor AI voor kritieke infrastructuur: transparantie en gebruiksaanwijzing

  Gebruiksaanwijzing en waarom artikel 86 niet geldt voor punt 2.

• Artikel 14 voor AI voor kritieke infrastructuur: menselijk toezicht

  Menselijk toezicht, de stopprocedure en wat de verordening niet vereist.

• Artikel 15 voor AI in kritieke infrastructuur: nauwkeurigheid, robuustheid en cyberbeveiliging

  Nauwkeurigheid, robuustheid en cyberbeveiliging.

• Artikel 17 voor AI in kritieke infrastructuur: kwaliteitsbeheersysteem

  Kwaliteitsbeheersysteem.

• Artikel 26 bij kritieke infrastructuur: verplichtingen van gebruiksverantwoordelijken

  Verplichtingen van gebruiksverantwoordelijken: netbeheerders, gemeenten en wegbeheerders.

• Artikel 50 voor AI in kritieke infrastructuur: transparantie en openbaarmaking

  Transparantieverplichtingen voor chatbots en gegenereerde content.

• Artikel 53 bij kritieke infrastructuur: verplichtingen van aanbieders van AI-modellen voor algemene doeleinden

  Aanbieders van AI-modellen voor algemene doeleinden.

• Bijlage III uitgediept: alle 8 hoog-risico categorieën

  Punt 2 van bijlage III in de context van alle acht categorieën.

• Artikel 6: classificatie van hoogrisico-AI-systemen

  Hoe artikel 6 AI-systemen met een hoog risico classificeert, inclusief veiligheidscomponenten en de uitzondering van artikel 6, lid 3.

• Artikel 27: effectbeoordeling grondrechten (FRIA)

  Wie de effectbeoordeling moet uitvoeren: artikel 27, lid 1, sluit systemen onder punt 2 van bijlage III uit.