Artikel 15 voor autonome systemen: nauwkeurigheid, robuustheid en cyberbeveiliging

Artikel 15 stelt ontwerpeisen aan de aanbieder. Het noemt voor geen enkele sector een nauwkeurigheidswaarde.

• art. 15(1)
  Passend niveau, gedurende de hele levenscyclus

  AI-systemen met een hoog risico moeten zo worden ontworpen en ontwikkeld dat ze een passend niveau van nauwkeurigheid, robuustheid en cyberbeveiliging bereiken en in dat opzicht gedurende hun hele levenscyclus consistent presteren.

• art. 15(2)
  Benchmarks moedigt de Commissie aan

  De Commissie moedigt in voorkomend geval de ontwikkeling van benchmarks en meetmethodologieën aan, in samenwerking met belanghebbenden zoals metrologie- en benchmarkingautoriteiten. Dat is geen verplichting voor de aanbieder.

• art. 15(3)
  Niveaus en maatstaven vermelden

  De nauwkeurigheidsniveaus en de relevante nauwkeurigheidsmaatstaven moeten worden vermeld in de bijgevoegde gebruiksaanwijzingen.

• art. 15(4)
  Weerbaarheid tegen fouten, en feedbackloops

  Systemen moeten zo bestand mogelijk zijn tegen fouten, storingen of inconsistenties in het systeem of de omgeving waarin het werkt, met name door de interactie met natuurlijke personen of andere systemen. Er moeten technische en organisatorische maatregelen worden genomen; technische redundantie, back-up- of failsafeplannen worden als opties genoemd. Een systeem dat na het in de handel brengen blijft leren, moet zo worden ontwikkeld dat het risico dat bevooroordeelde outputs invloed hebben op toekomstige input (feedbackloops) wordt weggenomen of zo veel mogelijk wordt beperkt.

• art. 15(5)
  Cyberbeveiliging tegen onbevoegde derden

  Systemen moeten bestand zijn tegen pogingen van onbevoegde derden om het gebruik, de outputs of de prestaties te wijzigen door kwetsbaarheden te misbruiken. De technische oplossingen omvatten in voorkomend geval maatregelen tegen datavergiftiging, modelvergiftiging, adversarial examples of modelontwijking, aanvallen op vertrouwelijkheid en modelgebreken.

Artikel 15 bindt alleen AI-systemen met een hoog risico. De rijen hieronder tonen welke autonome systemen eronder vallen en welke niet.

• Autonome systemen zijn geen categorie van de verordening

  De verordening kent geen categorie ‘autonome systemen’; haar definitie van een AI-systeem verwijst naar werking met verschillende niveaus van autonomie (artikel 3, punt 1). Deze site gebruikt het woord voor AI in voertuigen, drones, robots en machines en voor AI die het wegverkeer helpt beheren. Zulke AI kan via drie wegen een hoog risico vormen, en de weg bepaalt welke hoogrisicoregels gelden: bijlage I, afdeling B (artikel 2, lid 2 beperkt de regels tot enkele artikelen), bijlage I, afdeling A (de eisen van hoofdstuk III vanaf 2 augustus 2028, als het systeem een hoog risico vormt op grond van artikel 6, lid 1) en bijlage III, punt 2 (de eisen van hoofdstuk III vanaf 2 december 2027). Andere regels hangen niet van de weg af: de artikelen 4 en 5, artikel 50, artikel 53 voor modelaanbieders en de andere punten van bijlage III. Artikel 2, lid 2 beperkt alleen AI-systemen die op grond van artikel 6, lid 1 een hoog risico vormen in producten van afdeling B. Bepaal eerst uw hoogrisicoweg.

• Voertuigen, luchtvaartuigen, spoor, uitrusting van zeeschepen en machines: bijlage I, afdeling B

  Afdeling B van bijlage I noemt onder meer motorvoertuigen (Verordeningen (EU) 2018/858 en 2019/2144), twee- of driewielige voertuigen (Verordening (EU) nr. 168/2013), land- en bosbouwvoertuigen (Verordening (EU) nr. 167/2013), het spoorwegsysteem (Richtlijn (EU) 2016/797), uitrusting van zeeschepen (Richtlijn 2014/90/EU), onbemande luchtvaartuigen en hun motoren, propellers, onderdelen en apparatuur om het luchtvaartuig op afstand te besturen, voor zover Verordening (EU) 2018/1139 daarop van toepassing is, en machines (Verordening (EU) 2023/1230, door Verordening (EU) 2026/1744 van afdeling A naar afdeling B verplaatst). Voor een AI-systeem dat op grond van artikel 6, lid 1 een hoog risico vormt en een dergelijk product betreft, zijn alleen artikel 6, lid 1, artikel 60 bis en de artikelen 102 tot en met 112 van toepassing (artikel 2, lid 2); de artikelen 57, 58 en 59 zijn alleen van toepassing voor zover de eisen voor AI-systemen met een hoog risico in die harmonisatiewetgeving van de Unie zijn opgenomen. De artikelen 9 tot en met 15, 17 en 26 behoren daar niet toe. In plaats daarvan voegen de artikelen 102 tot en met 109 aan acht van deze rechtshandelingen een regel toe volgens welke de Commissie rekening houdt met de eisen van hoofdstuk III, afdeling 2, wanneer zij de daarin genoemde handelingen voor AI-systemen vaststelt. Voor machines verplicht artikel 3, punt 1, van Verordening (EU) 2026/1744 de Commissie gedelegeerde handelingen vast te stellen die gezondheids- en veiligheidseisen voor zulke AI-systemen toevoegen en daarbij hoofdstuk III, afdeling 2, en de artikelen 17, 19, 72 en 73 weerspiegelen; die handelingen moeten uiterlijk op 2 augustus 2028 van toepassing zijn.

• Producten van afdeling A en bijlage III, punt 2: hoofdstuk III is van toepassing

  Twee aanknopingspunten brengen de eisen van hoofdstuk III in werking. Ten eerste is een AI-systeem op grond van artikel 6, lid 1 een hoogrisicosysteem als het bedoeld is om te worden gebruikt als veiligheidscomponent van een product dat onder de wetgeving van bijlage I valt, of zelf zo’n product is, en dat product op grond van die wetgeving een conformiteitsbeoordeling door een derde moet ondergaan. Afdeling A (punten 2 tot en met 12) omvat bijvoorbeeld liften, kabelbaaninstallaties, pleziervaartuigen en medische hulpmiddelen; hoofdstuk III is op zulke systemen van toepassing vanaf 2 augustus 2028 (artikel 113, punt c) ii)). Een veiligheidscomponent is een component die een veiligheidsfunctie vervult of waarvan het falen of de storing de gezondheid en veiligheid van personen of eigendom in gevaar brengt (artikel 3, punt 14); AI die uitsluitend wordt gebruikt voor niet-veiligheidsgerelateerde aspecten zoals prestatie-optimalisatie, automatisering of gemak is dat niet, maar AI waarvan het falen de gezondheid en veiligheid in gevaar zou brengen wel (artikel 6, leden 1 bis en 1 ter). Een product dat alleen vanwege andere risico’s dan voor gezondheid en veiligheid een beoordeling door een derde moet ondergaan, zoals het gebruik van radiospectrum of elektromagnetische interferentie zonder gevolgen voor gezondheid en veiligheid, voldoet niet aan die voorwaarde (artikel 6, lid 1 quater); dat is bijvoorbeeld van belang voor radioapparatuur (punt 6). Ten tweede omvat bijlage III, punt 2, AI-systemen die bedoeld zijn om te worden gebruikt als veiligheidscomponenten bij het beheer en de exploitatie van kritieke digitale infrastructuur, wegverkeer of de levering van water, gas, verwarming of elektriciteit; hoofdstuk III is daarop van toepassing vanaf 2 december 2027 (artikel 113, punt c) i)). Naar de bewoordingen noemt punt 2 het beheer en de exploitatie van wegverkeer, geen voertuigen.

• Aanbieder en gebruiksverantwoordelijke

  De aanbieder ontwikkelt het AI-systeem of laat het ontwikkelen en brengt het onder eigen naam of merk in de handel of stelt het in gebruik (artikel 3, punt 3). Bij een AI-systeem met een hoog risico dat een veiligheidscomponent is van een product van afdeling A, geldt de fabrikant van het product als aanbieder als het systeem samen met het product onder zijn naam of merk in de handel wordt gebracht, of onder die naam of dat merk in gebruik wordt gesteld nadat het product in de handel is gebracht (artikel 25, lid 3). Artikel 15 is een ontwerpverplichting van de aanbieder. Wie als vloot-, fabrieks- of verkeersbeheerder een systeem alleen gebruikt, is gebruiksverantwoordelijke (artikel 3, punt 4) en heeft geen verplichting uit artikel 15; een gebruiksverantwoordelijke wordt aanbieder in de gevallen van artikel 25, lid 1.

• Data

  Systemen onder bijlage III, punt 2, moeten vanaf 2 december 2027 aan hoofdstuk III voldoen, systemen onder afdeling A vanaf 2 augustus 2028 (artikel 113, punt c)). Voor systemen onder afdeling B geldt geen datum voor de artikelen 9 tot en met 15, 17 en 26, omdat die artikelen er niet op van toepassing zijn; volgens artikel 113, punt c) ii), geldt hoofdstuk III, afdelingen 1 tot en met 3, waartoe artikel 6 behoort, voor systemen van bijlage I vanaf 2 augustus 2028, en gelden de artikelen 102 tot en met 110 sinds 27 juli 2026 (artikel 113, punt c) ii) en punt d)). Een systeem dat vóór de datum van toepassing van hoofdstuk III in de handel is gebracht of in gebruik is gesteld, valt er alleen onder als het ontwerp daarna aanzienlijk wijzigt; in elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111, lid 2).

• Boetes

  Overtredingen van de verplichtingen van aanbieders (artikel 16) en gebruiksverantwoordelijken (artikel 26) kunnen worden beboet met maximaal 15 miljoen EUR of, voor een onderneming, maximaal 3 % van haar totale wereldwijde jaaromzet in het voorgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 4). Voor mkb-bedrijven, met inbegrip van start-ups, geldt het lagere bedrag als maximum voor elke boete (artikel 99, lid 6). Hetzelfde maximum geldt voor kleine midcapondernemingen (artikel 3, punt 14 ter, artikel 99, lid 6 bis). Elke lidstaat stelt regels vast over de mate waarin administratieve boetes kunnen worden opgelegd aan in die lidstaat gevestigde overheidsinstanties en -organen (artikel 99, lid 8). Artikel 99 behoort niet tot de bepalingen die volgens artikel 2, lid 2 van toepassing zijn op AI-systemen die op grond van artikel 6, lid 1, een hoog risico vormen in producten van afdeling B.

• Grenzen van het toepassingsgebied van de verordening

  De verordening is van toepassing op aanbieders die AI-systemen in de Unie in de handel brengen of in gebruik stellen, of AI-modellen voor algemene doeleinden in de Unie in de handel brengen, ongeacht waar zij zijn gevestigd (artikel 2, lid 1, punt a)), en op aanbieders en gebruiksverantwoordelijken in een derde land wanneer de output van het AI-systeem in de Unie wordt gebruikt (punt c)). Zij is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen en doet geen afbreuk aan de bevoegdheden van de lidstaten op het gebied van nationale veiligheid; zij is evenmin van toepassing op AI-systemen die uitsluitend voor militaire doeleinden, defensiedoeleinden of doeleinden van nationale veiligheid worden gebruikt (artikel 2, lid 3). De verordening is niet van toepassing op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel (artikel 2, lid 6). Ze is ook niet van toepassing op onderzoeks-, test- en ontwikkelingsactiviteiten voordat een systeem of model in de handel wordt gebracht of in gebruik wordt gesteld; testen onder reële omstandigheden valt niet onder die uitsluiting (artikel 2, lid 8). Zij is niet van toepassing op AI-systemen die onder vrije en opensourcelicenties worden vrijgegeven, tenzij zij als hoogrisicosysteem of als AI-systeem dat onder artikel 5 of 50 valt in de handel worden gebracht of in gebruik worden gesteld (artikel 2, lid 12).

• Geen nauwkeurigheidswaarden voor autonome systemen

  Artikel 15 noemt voor geen enkele sector een nauwkeurigheidsmaatstaf, minimumwaarde, testmethode of norm, en ook niet voor autonome systemen. De aanbieder vermeldt de niveaus en de relevante maatstaven (artikel 15, lid 3). Geharmoniseerde normen waarvan de referenties in het Publicatieblad zijn bekendgemaakt, geven een vermoeden van conformiteit voor zover zij de eisen dekken (artikel 40, lid 1); een bekendgemaakt cyberbeveiligingscertificaat op grond van Verordening (EU) 2019/881 geeft dat voor de cyberbeveiligingseisen voor zover het die dekt (artikel 42, lid 2). Systemen die onder het toepassingsgebied van Verordening (EU) 2024/2847 vallen en voldoen aan de voorwaarden van artikel 12, lid 1, van die verordening, worden geacht te voldoen aan de cyberbeveiligingseisen van artikel 15 (artikel 42, lid 3). De Commissie ontwikkelt richtsnoeren voor de toepassing van de eisen en verplichtingen in de artikelen 8 tot en met 15 en 25 en 26 (artikel 96, lid 1, punt a)).

• Sectornormen en typegoedkeuringsregels zijn geen verplichtingen uit de verordening

  De verordening noemt geen ISO-, UNECE- of andere sectornorm. Welke regels voor nauwkeurigheid, robuustheid of cyberbeveiliging een product van afdeling B moet naleven, volgt uit de sectorwetgeving en niet uit artikel 15; de verordening laat andere handelingen van de Unie inzake consumentenbescherming en productveiligheid onverlet (artikel 2, lid 9). De Commissie ontwikkelt richtsnoeren over de verhouding van de verordening tot de in bijlage I opgenomen harmonisatiewetgeving van de Unie en tot ander relevant Unierecht (artikel 96, lid 1, punt e)).

• Afdeling A: eisen kunnen worden beperkt (artikel 2, lid 13)

  Voor hoogrisicosystemen als bedoeld in artikel 6, lid 1 kan de toepassing van specifieke eisen of verplichtingen uit de artikelen 9 tot en met 15 en 17 tot en met 25 worden beperkt, voor zover de in afdeling A van bijlage I opgenomen harmonisatiewetgeving van de Unie eisen of verplichtingen bevat die een gelijkwaardig of hoger beschermingsniveau bieden en de beperking het algehele beschermingsniveau van de verordening niet vermindert (artikel 2, lid 13). De Commissie stelt uiterlijk 2 augustus 2027 gedelegeerde handelingen vast waarin de betrokken systemen, de eisen die kunnen worden beperkt, de voorwaarden en de reikwijdte worden gespecificeerd. Volgens onze lezing van artikel 2, lid 13, zegt de verordening zelf niet welke eisen voor een bepaald product van afdeling A zijn beperkt; de gedelegeerde handelingen moeten dat doen; vraag juridisch advies.

• Voorbeeld: vermelde maatstaven voor een verkeersbeheercomponent

  Voorbeeld, geen eis uit de verordening: de aanbieder van een veiligheidscomponent voor wegverkeersbeheer kan vermelden welke nauwkeurigheidsmaatstaven hij heeft gemeten en onder welke weg-, sensor- en weersomstandigheden.

• Voorbeeld: het faalveilige gedrag documenteren

  Voorbeeld, geen eis uit de verordening: een aanbieder kan documenteren wat het systeem doet als een sensor uitvalt of de invoer onwaarschijnlijk is, bijvoorbeeld door de besturing over te dragen aan logica zonder AI, als een manier om de in artikel 15, lid 4 genoemde faalveilige plannen te beschrijven.

• Artikel 15 AI-verordening: nauwkeurigheid, robuustheid en cyberbeveiliging

  Artikel 15 voor alle sectoren: de eisen, data en boetes.

• AI-verordening autonome systemen: naleving

  Het overzicht over autonome systemen: welke aanknopingspunten van de verordening gelden voor voertuigen, luchtvaartuigen, machines en verkeers-AI.

• Artikel 17 voor autonome systemen: kwaliteitsbeheersysteem

  Autonome systemen en artikel 17: het kwaliteitsbeheersysteem en wie de aanbieder is.

• Hoogrisico-AI-systemen van bijlage I: de productveiligheidsroute

  Bijlage I: welke AI-systemen in gereguleerde producten een hoog risico vormen, met afdeling A en afdeling B.