Artikel 13 voor autonome systemen: transparantie en gebruiksaanwijzing

Artikel 13 legt verplichtingen op aan de aanbieder jegens de gebruiksverantwoordelijke. Het legt geen plicht op om informatie openbaar te maken of een besluit aan een getroffen persoon uit te leggen.

• art. 13(1)
  Transparantie waarmee gebruiksverantwoordelijken de output kunnen interpreteren

  AI-systemen met een hoog risico worden zodanig ontworpen en ontwikkeld dat de werking ervan voldoende transparant is om gebruiksverantwoordelijken in staat te stellen de output te interpreteren en op passende wijze te gebruiken. Er wordt een passende soort en mate van transparantie gewaarborgd, zodat de aanbieder en de gebruiksverantwoordelijke hun verplichtingen in afdeling 3 kunnen naleven.

• art. 13(2)
  Gebruiksaanwijzing

  AI-systemen met een hoog risico gaan vergezeld van een gebruiksaanwijzing in een passend digitaal of ander formaat. Die bevat beknopte, volledige, juiste en duidelijke informatie die relevant, toegankelijk en begrijpelijk is voor gebruiksverantwoordelijken.

• art. 13(3)(a), (b)
  Minimale inhoud: aanbieder, prestaties en beperkingen

  De gebruiksaanwijzing bevat ten minste de identiteit en de contactgegevens van de aanbieder, en de kenmerken, capaciteiten en beperkingen van de prestaties van het systeem. Daaronder valt het beoogde doel. Daaronder valt ook de mate van nauwkeurigheid, waaronder de beoordelingsmaatstaven, robuustheid en cyberbeveiliging waarop het systeem is getest en gevalideerd en die kan worden verwacht. Ook bekende omstandigheden die daarop van invloed kunnen zijn, vallen daaronder. Ook bekende of te voorziene omstandigheden die kunnen leiden tot risico’s voor de gezondheid, veiligheid of grondrechten vallen daaronder. In voorkomend geval of waar passend vallen daar ook onder: de technische capaciteiten om de output toe te lichten, de prestaties voor specifieke personen of groepen personen, specificaties voor de inputdata en informatie om de output te interpreteren.

• art. 13(3)(c)–(f)
  Wijzigingen, toezicht, middelen en logs

  De gebruiksaanwijzing vermeldt ook de wijzigingen die de aanbieder vooraf heeft bepaald op het moment van de eerste conformiteitsbeoordeling, indien van toepassing, en de maatregelen voor menselijk toezicht uit hoofde van artikel 14. Zij vermeldt de benodigde rekenkracht en hardware, de verwachte levensduur en de maatregelen voor onderhoud, ook in verband met software-updates. In voorkomend geval beschrijft zij de mechanismen waarmee gebruiksverantwoordelijken de logs naar behoren kunnen verzamelen, opslaan en interpreteren overeenkomstig artikel 12.

Artikel 13 geldt alleen voor AI-systemen met een hoog risico. De rijen hieronder laten zien welke AI in voertuigen, onbemande luchtvaartuigen, robots en machines eronder valt, en waar artikel 13 niet van toepassing is.

• Autonome systemen vormen geen categorie in de verordening

  De verordening kent geen categorie voor autonome systemen. Haar definitie van een AI-systeem spreekt van ‘verschillende niveaus van autonomie’ (artikel 3, punt 1), en artikel 14, lid 3 van een ‘mate van autonomie’. De verordening noemt geen zelfrijdend voertuig, geen drone en geen robot. Deze site gebruikt ‘autonome systemen’ voor AI in voertuigen, onbemande luchtvaartuigen, robots en machines. Welke regels gelden, hangt af van de productwetgeving van de Unie die het product dekt. De volgende rijen geven drie manieren waarop een AI-systeem een hoog risico kan hebben: via bijlage I, afdeling B, via bijlage I, afdeling A, en via bijlage III, punt 2. Ook andere bepalingen kunnen van toepassing zijn, bijvoorbeeld artikel 4 (AI-geletterdheid), artikel 5 (verboden praktijken), artikel 50 (transparantie), artikel 53 (AI-modellen voor algemene doeleinden) en de andere punten van bijlage III.

• Producten van afdeling B: voertuigen, onbemande luchtvaartuigen, spoorwegsysteem, uitrusting van zeeschepen, machines

  Bijlage I, afdeling B, noemt bijvoorbeeld motorvoertuigen (Verordeningen (EU) 2018/858 en (EU) 2019/2144, punten 18 en 19), twee- of driewielige voertuigen en vierwielers (punt 14), landbouw- en bosbouwvoertuigen (punt 15), het spoorwegsysteem (punt 17), uitrusting van zeeschepen (punt 16), onbemande luchtvaartuigen en hun motoren, propellers, onderdelen en apparatuur om het luchtvaartuig op afstand te besturen op grond van Verordening (EU) 2018/1139 (punt 20) en machines (Verordening (EU) 2023/1230, punt 21). Verordening (EU) 2026/1744 heeft machines van afdeling A naar afdeling B verplaatst. Voor AI-systemen die op grond van artikel 6, lid 1 als AI-systeem met een hoog risico zijn geclassificeerd en verband houden met zulke producten, zijn uitsluitend artikel 6, lid 1, artikel 60 bis en de artikelen 102 tot en met 112 van toepassing. De artikelen 57, 58 en 59 zijn alleen van toepassing voor zover de eisen voor AI-systemen met een hoog risico zijn opgenomen in die harmonisatiewetgeving van de Unie (artikel 2, lid 2). De artikelen 9 tot en met 15, 17, 26 en 99 horen niet bij de bepalingen die van toepassing zijn. Artikel 2, lid 2, is beperkt tot AI-systemen die op grond van artikel 6, lid 1, als systeem met een hoog risico zijn geclassificeerd; het beperkt bijvoorbeeld artikel 4 of artikel 5 niet. De overzichtspagina voor autonome systemen geeft aan wat deze producten in plaats daarvan bereikt.

• Producten van afdeling A: hoofdstuk III geldt voor systemen met een hoog risico

  Bijlage I, afdeling A (punten 2 tot en met 12), omvat speelgoed, pleziervaartuigen, liften, apparaten en beveiligingssystemen bedoeld voor gebruik op plaatsen waar ontploffingsgevaar kan heersen, radioapparatuur, drukapparatuur, kabelbaaninstallaties, persoonlijke beschermingsmiddelen, gasverbrandingstoestellen, medische hulpmiddelen en medische hulpmiddelen voor in-vitrodiagnostiek. Een AI-systeem heeft een hoog risico op grond van artikel 6, lid 1 wanneer het bedoeld is om te worden gebruikt als veiligheidscomponent van zo’n product, of zelf zo’n product is, en voor het product op grond van die wetgeving een conformiteitsbeoordeling door een derde partij moet worden uitgevoerd. Een conformiteitsbeoordeling door een derde partij die uitsluitend vanwege andere risico’s dan risico’s voor de gezondheid en veiligheid vereist is, met name risico’s in verband met de verdeling van het radiospectrum of elektromagnetische interferentie die geen gevolgen hebben voor de gezondheid en veiligheid, voldoet niet aan die voorwaarde (artikel 6, lid 1 quater). De eisen voor deze systemen gelden vanaf 2 augustus 2028 (artikel 113, punt c), ii)). Volgens artikel 2, lid 13 kan de toepassing van specifieke eisen in de artikelen 9 tot en met 15 en 17 tot en met 25 worden beperkt, indien en voor zover de wetgeving van afdeling A eisen bevat die een gelijkwaardig of hoger niveau van bescherming bieden en de beperking geen afbreuk doet aan het algemene beschermingsniveau. De Commissie stelt hierover uiterlijk 2 augustus 2027 gedelegeerde handelingen vast.

• Bijlage III, punt 2: wegverkeer, levering van nutsvoorzieningen en digitale infrastructuur

  Bijlage III, punt 2, betreft AI-systemen die bedoeld zijn om te worden gebruikt als veiligheidscomponent bij het beheer of de exploitatie van kritieke digitale infrastructuur, wegverkeer of bij de levering van water, gas, verwarming of elektriciteit. De tekst van bijlage III noemt geen voertuig, luchtvaartuig, drone of robot. Of een bepaald systeem op een van deze terreinen een veiligheidscomponent is, is een vraag voor een jurist. De eisen voor deze toepassingen uit bijlage III gelden vanaf 2 december 2027 (artikel 113, punt c), i)).

• Artikel 6, lid 3, kan een systeem uit bijlage III halen

  Een systeem onder punt 2 is een AI-systeem met een hoog risico op grond van artikel 6, lid 2. Volgens artikel 6, lid 3, is het geen AI-systeem met een hoog risico als het geen significant risico op schade voor de gezondheid, veiligheid of grondrechten inhoudt. Daaronder valt dat het de uitkomst van de besluitvorming niet wezenlijk beïnvloedt. De verordening past deze uitzondering toe wanneer aan een van de volgende voorwaarden is voldaan (artikel 6, lid 3, punten a) tot en met d)). Het systeem is bedoeld om een beperkte procedurele taak uit te voeren. Of het is bedoeld om het resultaat van een eerder voltooide menselijke activiteit te verbeteren. Of het is bedoeld om besluitvormingspatronen of afwijkingen van eerdere besluitvormingspatronen op te sporen en is niet bedoeld om de eerder voltooide menselijke beoordeling zonder behoorlijke menselijke toetsing te vervangen of te beïnvloeden. Of het is bedoeld om een voorbereidende taak uit te voeren voor een beoordeling die relevant is voor de in bijlage III vermelde gebruiksgevallen. Hoe deze voorwaarden zich verhouden tot de toets van het significante risico, is een vraag voor een jurist. Het systeem is altijd een AI-systeem met een hoog risico als het profilering van natuurlijke personen uitvoert. Profilering is gedefinieerd in artikel 4, punt 4, AVG (artikel 3, punt 52). Een aanbieder die zich op de uitzondering beroept, documenteert zijn beoordeling voordat het systeem in de handel wordt gebracht of in gebruik wordt gesteld. Hij moet het systeem ook registreren (artikel 6, lid 4, artikel 49, lid 2).

• Alleen veiligheidscomponenten vallen eronder

  Een veiligheidscomponent is een component van een product of van een AI-systeem die een veiligheidsfunctie voor dat product of AI-systeem vervult of waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid van personen of eigendom in gevaar brengt. Een component vervult een veiligheidsfunctie wanneer het beoogde doel ervan is om risico’s voor de gezondheid en veiligheid van personen of eigendom te voorkomen of te beperken (artikel 3, punt 14). AI-systemen die uitsluitend worden gebruikt voor niet-veiligheidsgerelateerde aspecten van bijstand aan gebruikers, optimalisering van de prestaties, efficiëntie van de dienstverlening, automatisering of gemak of kwaliteitscontrole, worden niet als veiligheidscomponenten aangemerkt (artikel 6, lid 1 bis). AI-systemen waarvan het falen of gebrekkig functioneren de gezondheid en veiligheid in gevaar zou brengen, worden beschouwd als veiligheidscomponenten (artikel 6, lid 1 ter). Of een bepaalde besturings-, navigatie- of gemaksfunctie een veiligheidscomponent is, is een vraag voor een jurist.

• Aanbieder en gebruiksverantwoordelijke

  De aanbieder ontwikkelt een AI-systeem, of laat het ontwikkelen. Hij brengt het onder eigen naam of merk in de handel of stelt het onder eigen naam of merk in gebruik (artikel 3, punt 3). Onder in gebruik stellen valt ook de levering voor eigen gebruik van de aanbieder (artikel 3, punt 11). Bij een veiligheidscomponent van een product van afdeling A is de productfabrikant de aanbieder wanneer het systeem samen met het product onder de naam of het merk van de fabrikant in de handel wordt gebracht, of onder die naam of dat merk in gebruik wordt gesteld nadat het product in de handel is gebracht (artikel 25, lid 3). Een wagenparkbeheerder, exploitant van een installatie of wegbeheerder die een systeem onder eigen verantwoordelijkheid gebruikt, is een gebruiksverantwoordelijke (artikel 3, punt 4). Een gebruiksverantwoordelijke wordt in drie gevallen de aanbieder. Hij zet zijn naam of merk op een AI-systeem met een hoog risico dat al in de handel is gebracht, onverminderd contractuele regelingen waarin wordt bepaald dat de verplichtingen anders worden toegewezen. Hij brengt een substantiële wijziging aan in zo’n systeem, waardoor het een AI-systeem met een hoog risico blijft. Of hij wijzigt het beoogde doel van een niet als hoog risico geclassificeerd systeem, zodat het een AI-systeem met een hoog risico wordt (artikel 25, lid 1). De aanbieder die het systeem als eerste in de handel heeft gebracht of in gebruik heeft gesteld, wordt dan niet langer als aanbieder van dat specifieke systeem beschouwd en moet nauw samenwerken met de nieuwe aanbieder (artikel 25, lid 2). Dit geldt niet als de oorspronkelijke aanbieder duidelijk heeft aangegeven dat zijn systeem niet mag worden gewijzigd in een AI-systeem met een hoog risico.

• Artikel 86 geldt niet voor punt 2

  Artikel 86, lid 1, geeft een getroffen persoon recht op uitleg van een besluit dat de gebruiksverantwoordelijke neemt op basis van de output van een AI-systeem met een hoog risico uit bijlage III, ‘met uitzondering van de systemen onder punt 2’. Een gebruiksverantwoordelijke van een systeem onder punt 2 is er dus niet aan gebonden. Gebruiksverantwoordelijken van AI-systemen met een hoog risico uit bijlage III die beslissingen met betrekking tot natuurlijke personen nemen of helpen nemen, moeten die personen informeren dat het systeem op hen wordt toegepast (artikel 26, lid 11).

• Datums

  Afdeling A: de eisen van hoofdstuk III, afdelingen 1 tot en met 3, gelden voor AI-systemen die op grond van artikel 6, lid 1, als systeem met een hoog risico zijn geclassificeerd, vanaf 2 augustus 2028 (artikel 113, punt c), ii)). Bijlage III, punt 2: vanaf 2 december 2027 (punt c), i)). Afdeling B: de artikelen 9 tot en met 15 hebben geen datum omdat ze niet van toepassing zijn (artikel 2, lid 2); de artikelen 102 tot en met 110 gelden vanaf 27 juli 2026 (punt d)). Een systeem dat vóór de datum van toepassing in de handel is gebracht of in gebruik is gesteld, valt er alleen onder als het ontwerp daarna aanzienlijk wordt gewijzigd. In elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111, lid 2).

• Boetes

  Aanbieders zorgen ervoor dat hun AI-systemen met een hoog risico voldoen aan de eisen van afdeling 2 van hoofdstuk III. Daartoe behoren de artikelen 9 tot en met 15 (artikel 16, punt a)). Een inbreuk op de verplichtingen van aanbieders in artikel 16 of van gebruiksverantwoordelijken in artikel 26 kan worden beboet. De boete bedraagt maximaal 15 miljoen EUR of, voor een onderneming, maximaal 3 % van haar totale wereldwijde jaarlijkse omzet in het voorafgaande boekjaar, als dat bedrag hoger is (artikel 99, lid 4, punten a) en e)). Voor mkb-bedrijven, met inbegrip van start-ups, geldt voor elke boete als maximum het lagere van de twee grenzen (artikel 99, lid 6). Hetzelfde geldt voor kleine midcapondernemingen (artikel 3, punt 14 ter, artikel 99, lid 6 bis). Elke lidstaat stelt regels vast betreffende de vraag in hoeverre administratieve geldboeten kunnen worden opgelegd aan in die lidstaat gevestigde overheidsinstanties of -organen (artikel 99, lid 8). Voor producten van afdeling B hoort artikel 99 niet bij de bepalingen die volgens artikel 2, lid 2, van toepassing zijn.

• Bereik en grenzen van de verordening

  De verordening is van toepassing op aanbieders en gebruiksverantwoordelijken die in een derde land zijn gevestigd of er zich bevinden, indien de output van het AI-systeem in de Unie wordt gebruikt (artikel 2, lid 1, punt c)). Zij is niet van toepassing op gebieden die buiten het toepassingsgebied van het Unierecht vallen, en doet geen afbreuk aan de bevoegdheden van de lidstaten op het gebied van nationale veiligheid (artikel 2, lid 3). Zij is niet van toepassing op AI-systemen wanneer en voor zover zij uitsluitend voor militaire doeleinden, defensiedoeleinden of doeleinden op het gebied van nationale veiligheid in de handel worden gebracht, in gebruik worden gesteld of, al dan niet gewijzigd, worden gebruikt (artikel 2, lid 3). De verordening is niet van toepassing op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek zijn ontwikkeld en in gebruik gesteld met wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel (artikel 2, lid 6). Zij is niet van toepassing op onderzoeks-, test- of ontwikkelingsactiviteiten voordat een systeem in de handel wordt gebracht of in gebruik wordt gesteld. Testen onder reële omstandigheden vallen niet onder die uitsluiting (artikel 2, lid 8). AI-systemen die worden vrijgegeven onder vrije en opensourcelicenties vallen buiten de verordening. Die uitsluiting geldt niet voor AI-systemen die als systeem met een hoog risico in de handel worden gebracht of in gebruik worden gesteld, of die onder artikel 5 of 50 vallen (artikel 2, lid 12). De verordening is niet van toepassing op verplichtingen van gebruiksverantwoordelijken die natuurlijke personen zijn die AI-systemen gebruiken in het kader van een louter persoonlijke niet-professionele activiteit (artikel 2, lid 10).

• Geen formaat voor de gebruiksaanwijzing, geen informatieplicht jegens passagiers

  De verordening noemt geen formaat, sjabloon of formulering voor de gebruiksaanwijzing. De aanbieder bepaalt hoe hij de door artikel 13, lid 3 vereiste elementen weergeeft. Artikel 13 richt zich tot gebruiksverantwoordelijken; het legt geen informatieplicht op jegens passagiers of weggebruikers. De verordening zelf noemt geen geharmoniseerde norm. AI-systemen met een hoog risico die in overeenstemming zijn met geharmoniseerde normen waarvan de referenties in het Publicatieblad van de Europese Unie zijn bekendgemaakt, worden geacht in overeenstemming te zijn met de eisen van afdeling 2, voor zover die normen die eisen dekken (artikel 40, lid 1). De Commissie ontwikkelt richtsnoeren over de praktische toepassing van de vereisten en verplichtingen in de artikelen 8 tot en met 15 en de artikelen 25 en 26 (artikel 96, lid 1, punt a)) en over het verband van de verordening met de harmonisatiewetgeving van bijlage I (punt e)).

• Voorbeeld: bedrijfsomstandigheden in de gebruiksaanwijzing

  Voorbeeld, geen eis van de verordening: de gebruiksaanwijzing van een veiligheidscomponent zou de bedrijfsomstandigheden kunnen noemen waaronder de nauwkeurigheid is gemeten en de omstandigheden waaronder niet op de output mag worden vertrouwd. Artikel 13, lid 3, punt b), ii) en iii), vragen om de geteste mate van nauwkeurigheid en om omstandigheden die haar kunnen beïnvloeden of tot risico’s kunnen leiden.

• Voorbeeld: de stopprocedure beschrijven

  Voorbeeld, geen eis van de verordening: de gebruiksaanwijzing zou de stopprocedure kunnen beschrijven en de toestand die het systeem bereikt wanneer het stopt. Artikel 13, lid 3, punt d), vraagt om de maatregelen voor menselijk toezicht van artikel 14.

• Artikel 13 AI-verordening: transparantie en gebruiksaanwijzing

  Artikel 13 voor alle sectoren: eisen, data en boetes.

• AI-verordening autonome systemen: naleving

  Het overzicht autonome systemen: de drie manieren waarop een systeem een hoog risico kan hebben voor voertuigen, onbemande luchtvaartuigen, robots en machines, en de andere bepalingen die van toepassing kunnen zijn.

• Artikel 14 voor autonome systemen: menselijk toezicht

  Autonome systemen en artikel 14: toezicht door natuurlijke personen en wat de verordening niet vereist.

• Hoogrisico-AI-systemen van bijlage I: de productveiligheidsroute

  Bijlage I, afdelingen A en B: welke producten, welke regels gelden en wat er voor machines is veranderd.