Artikel 13: transparantie autonome systemen — EU AI-verordening
Hoe transparantie volgens artikel 13 van de EU AI-verordening geldt voor autonome systemen — openbaarmaking van het ontwerpdomein, passagierskennisgeving en vlootinstructies.
Artikel 13 van de EU AI Act vereist dat AI-systemen met een hoog risico voldoende transparant zijn zodat gebruiksverantwoordelijken de uitvoer kunnen interpreteren en op passende wijze kunnen gebruiken. Voor autonome systemen — zelfrijdende voertuigen, drones en autonome machines — bepaalt transparantie of menselijke bedieners door AI aangestuurde beslissingen in veiligheidskritische omgevingen veilig kunnen bewaken, erin kunnen ingrijpen en erop kunnen vertrouwen. Op grond van Bijlage III, sectie 2(a) worden AI-systemen die bedoeld zijn als veiligheidscomponenten in het wegverkeersbeheer en de werking van autonome voertuigen als hoog risico geclassificeerd.
Deze pagina legt uit hoe de transparantievereisten van artikel 13 specifiek van toepassing zijn op autonome systemen — van zelfrijdende voertuigen tot industriële drones — met inbegrip van openbaarmaking van het operationele domein, instructies voor vlootexploitanten, kennisgeving aan passagiers en welke overtredingen op codeniveau Scanara detecteert in de software van autonome systemen.
Welke autonome AI-systemen moeten transparant zijn?
Zelfrijdende voertuigen (SAE L3-L5)
Autonome voertuigen moeten de grenzen van hun operationele ontwerpdomein (ODD) bekendmaken aan passagiers en vlootexploitanten. Passagiers moeten de mogelijkheden en beperkingen van het systeem kennen — met inbegrip van wanneer de AI een overname door de mens kan vragen en de verwachte overgangstijd.
Autonome drones en UAV's
Door AI ondersteunde detect-and-avoid-systemen (DAA) en autonome vluchtplanning moeten bedieners transparante uitleg geven over navigatiebeslissingen, met name wanneer de AI geplande routes overschrijft of noodprocedures activeert. De EASA vereist transparantie over de beperkingen van door AI ondersteunde DAA-systemen.
Autonome industriële machines
Door AI aangestuurde magazijnrobots, landbouwmachines en productiesystemen moeten bedieners duidelijke informatie geven over de beslissingslogica van het systeem, de veiligheidsgrenzen en de omstandigheden waaronder de AI zich onvoorspelbaar kan gedragen of menselijk ingrijpen kan vereisen.
Autonome maritieme en spoorwegsystemen
AI-navigatiesystemen voor autonome schepen en spoorwegactiviteiten moeten transparant zijn over routebeslissingen, de logica van botsingsvermijding en operationele grenzen. Vervoersautoriteiten moeten voldoende informatie ontvangen om de geschiktheid van de AI voor inzet in specifieke operationele contexten te beoordelen.
Belangrijkste transparantieverplichtingen voor autonome systemen
Artikel 13 vereist gebruiksinstructies die gebruiksverantwoordelijken in staat stellen de AI-uitvoer op passende wijze te interpreteren. Voor autonome systemen betekent dit dat vlootexploitanten en vervoersautoriteiten de operationele grenzen van de AI, de onderbouwing van de beslissingen en het gedrag in randgevallen moeten begrijpen — transparantie die rechtstreeks van invloed is op de fysieke veiligheid.
Het operationele ontwerpdomein moet worden bekendgemaakt
De gebruiksinstructies moeten het ODD duidelijk definiëren — de specifieke omstandigheden waaronder het autonome systeem is ontworpen om veilig te functioneren. Dit omvat weersomstandigheden, wegtypen, snelheidsbereiken, geografische grenzen en beperkingen naar tijdstip van de dag. Werken buiten het gedocumenteerde ODD zonder bekendmaking is in strijd met artikel 13.
Gebruiksverantwoordelijken moeten de interventiepunten begrijpen
Artikel 13(1) vereist dat gebruiksverantwoordelijken de uitvoer op passende wijze interpreteren. Voor autonome systemen betekent dit dat vlootexploitanten moeten begrijpen wanneer en hoe zij moeten ingrijpen — met inbegrip van de timing van overnameverzoeken, terugvalgedrag en de verwachte respons van het systeem wanneer het aan de grens van zijn mogelijkheden functioneert.
Passagiers moeten de systeemmogelijkheden kennen
Passagiers in autonome voertuigen moeten worden geïnformeerd over de operationele mogelijkheden en beperkingen van het systeem. Dit omvat het huidige autonomieniveau, wat de AI wel en niet aankan en wat van de menselijke bestuurder (indien aanwezig) wordt verwacht. Markeringen ter identificatie van voertuigen kunnen per rechtsgebied verschillen.
Gedrag in randgevallen moet worden gedocumenteerd
De technische documentatie moet het systeemgedrag onder verslechterde omstandigheden verklaren: sensorstoringen, ongunstige weersomstandigheden, ongebruikelijke obstakels en verlies van netwerkverbinding. Artikel 13(3)(b)(i) vereist de bekendmaking van beperkingen en omstandigheden waaronder het systeem kan disfunctioneren — voor autonome systemen zijn dit veiligheidskritische bekendmakingen.
Overlappende regelgeving
Transparantie van autonome systemen overlapt met kaders voor typegoedkeuring, luchtvaartregelgeving en veiligheidsnormen. Artikel 13 moet worden afgestemd op bestaande sectorspecifieke transparantie- en documentatievereisten.
Kaderverordening typegoedkeuring (TAFR)
De EU-kaderverordening typegoedkeuring vereist gedetailleerde technische documentatie voor de certificering van autonome voertuigen, met inbegrip van het operationele ontwerpdomein, veiligheidsvalidatiegegevens en het ontwerp van de mens-machine-interface. De vereisten van artikel 13 van de AI Act voor gebruiksinstructies moeten worden afgestemd op de TAFR-documentatie om tegenstrijdige of dubbele bekendmakingen te voorkomen.
Algemene veiligheidsverordening (GSR)
De GSR schrijft geavanceerde rijhulpsystemen voor en stelt vereisten aan de transparantie ervan voor bestuurders. Ongevallendatarecorders, detectie van bestuurderssufheid en intelligente snelheidsassistentie vereisen alle een kennisgeving aan de bestuurder. Artikel 13 breidt deze transparantievereisten uit tot het niveau van het AI-systeem en vereist documentatie van mogelijkheden, beperkingen en prestaties.
EASA-verordeningen voor vluchtuitvoering
Het Agentschap van de Europese Unie voor de veiligheid van de luchtvaart reguleert AI in de luchtvaart, met inbegrip van autonome dronevluchten. De EASA vereist transparantie over door AI ondersteunde detect-and-avoid-beslissingen en de beperkingen daarvan. Artikel 13 voegt vereisten toe voor documentatie op systeemniveau over de mogelijkheden, nauwkeurigheid en robuustheid van de AI, ter aanvulling van het operationele transparantiekader van de EASA.
ISO 21448 (SOTIF) — veiligheid van de beoogde functionaliteit
ISO 21448 behandelt veiligheidsrisico's als gevolg van functionele tekortkomingen in autonome systemen en vereist de identificatie en documentatie van triggerende omstandigheden en storingsmodi. De transparantievereisten van artikel 13 voor het bekendmaken van systeembeperkingen sluiten nauw aan bij de SOTIF-documentatie van bekende en onbekende onveilige scenario's.
Veelvoorkomende overtredingen die Scanara detecteert
Ontbrekende documentatie van ODD-grenzen in systeemuitvoer
Autonome navigatiecode die route- of besturingsbeslissingen neemt zonder de grenzen van het operationele ontwerpdomein te refereren of aan de bedienersinterface bekend te maken. Artikel 13 vereist dat gebruiksverantwoordelijken de systeemgrenzen begrijpen — Scanara markeert beslissingsmodules die geen ODD-parameters blootleggen.
Geen bekendmaking van AI-interactie in de passagiersinterface
Passagiersinterfaces van voertuigen of drones die de navigatie- of operationele status weergeven zonder bekend te maken dat de beslissingen door AI worden aangestuurd. Artikel 50(1) vereist een kennisgeving wanneer natuurlijke personen met AI-systemen interageren — passagiers moeten het autonomieniveau en de huidige mogelijkheden van het systeem kennen.
Gebruiksinstructies zonder gedrag in verslechterde modus
Systeemdocumentatie die de normale werking beschrijft zonder het gedrag te documenteren bij sensorstoring, ongunstig weer, verlies van connectiviteit of andere verslechterde omstandigheden. Artikel 13(3)(b)(i) vereist de bekendmaking van beperkingen en omstandigheden waaronder het systeem kan disfunctioneren — cruciaal voor de veiligheid van autonome systemen.
Nalevingschecklist bij artikel 13 voor autonome systemen
AI-beslissingen interpreteerbaar maken voor bedieners
Zorg ervoor dat vlootexploitanten en vervoersautoriteiten de onderbouwing van de AI-beslissingen kunnen begrijpen, met inbegrip van navigatiekeuzes, snelheidsaanpassingen en beslissingen tot obstakelvermijding. Bied hulpmiddelen voor interpreteerbaarheid in realtime en achteraf.
Operationeel ontwerpdomein documenteren
Verstrek gedetailleerde documentatie van het ODD, met inbegrip van weer-, wegtype-, snelheidsbereik-, geografische en temporele grenzen. Neem duidelijke richtsnoeren op over wat er gebeurt wanneer het systeem de ODD-grenzen nadert of overschrijdt.
Gedrag in verslechterde modus en randgevallen bekendmaken
Documenteer het systeemgedrag bij sensorstoring, ongunstig weer, verlies van connectiviteit en ongebruikelijke obstakelscenario's. Neem terugvalstrategieën, minimale-risico-omstandigheden en de verwachte overgangstijden voor overnameverzoeken aan de mens op.
Passagiers en andere weggebruikers informeren
Informeer passagiers over het autonomieniveau van het systeem, de huidige mogelijkheden en wat er van hen wordt verwacht. Voer voor andere weggebruikers markeringen ter identificatie van voertuigen in, zoals vereist door het rechtsgebied.
Veiligheids- en prestatiemaatstaven bekendmaken
Rapporteer de systeemprestaties, met inbegrip van de nauwkeurigheid van objectdetectie, de percentages fout-positief/fout-negatief, de reactietijden en de veiligheidsvalidatieresultaten over het gedocumenteerde ODD. Neem de prestaties onder randomstandigheden op.
Veelgestelde vragen
Gerelateerde bronnen
Artikel 13: transparantie
Volledige vereisten van artikel 13 in alle sectoren.
Autonome systemen — Sectorhub
Volledige nalevingsgids voor de EU AI Act voor autonome systemen.
Artikel 12: registratie voor autonome systemen
Logging- en registratievereisten voor autonome AI.
Artikel 14: menselijk toezicht op autonome systemen
Verplichtingen inzake menselijk toezicht voor autonome AI-systemen.
Hoe Scanara helpt
Scanara automatiseert EU AI-verordening compliance van code tot dossier. Verbind uw GitHub-repos en ontvang compliance-rapporten in minuten.