Artikel 13 AI-verordening: transparantie en gebruiksaanwijzing
Artikel 13 eist dat aanbieders gebruiksverantwoordelijken een gebruiksaanwijzing geven. Deze gids noemt de inhoud en wat gebruiksverantwoordelijken ermee doen.
Aanbieders van hoogrisico-AI-systemen moeten gebruiksverantwoordelijken een gebruiksaanwijzing en een transparant systeem geven (artikel 13).
Dit geldt voor in de EU in de handel gebrachte of in gebruik gestelde systemen. Het geldt vanaf 2 december 2027 (bijlage III) en vanaf 2 augustus 2028 (bijlage I). Gebruiksverantwoordelijken zijn de organisaties die het systeem gebruiken. De transparantie moet hen in staat stellen outputs te interpreteren (artikel 13(1)). De gebruiksaanwijzing moet de aanbieder noemen, de geteste nauwkeurigheid en bekende risico’s vermelden en het menselijk toezicht beschrijven (artikel 13(3)). De boetes bedragen maximaal 15 miljoen EUR of 3 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Volgende stap: toets uw gebruiksaanwijzing aan artikel 13(3).
De gebruiksaanwijzing moet minstens deze informatie bevatten
Artikel 13(3) noemt de minimale inhoud in de punten a) tot en met f). De kaarten hieronder groeperen die punten. De gebruiksaanwijzing moet beknopt, volledig, juist en duidelijk zijn, in een passend digitaal formaat of anderszins (artikel 13(2)).
Identiteit en contactgegevens van de aanbieder
Vermeld de naam en contactgegevens van de aanbieder en, indien aanwezig, van zijn gemachtigde (artikel 13(3), punt a)).
Beoogd doel en geteste prestaties
Vermeld het beoogde doel. Vermeld het niveau van nauwkeurigheid, robuustheid en cyberbeveiliging waarop het systeem is getest en gevalideerd en dat kan worden verwacht, met de bijbehorende maatstaven. Voeg de omstandigheden toe die dat niveau kunnen beïnvloeden (artikel 13(3), punt b), i) en ii)).
Bekende risico’s en voorzienbaar misbruik
Beschrijf bekende of voorzienbare omstandigheden, ook bij redelijkerwijs voorzienbaar misbruik, die kunnen leiden tot risico’s voor gezondheid, veiligheid of grondrechten (artikel 13(3), punt b), iii)).
Uitleg, groepen en data
Beschrijf, waar van toepassing of passend, hoe het systeem zijn output uitlegt, zijn prestaties voor specifieke personen of groepen personen, de specificaties van de inputdata en de gebruikte trainings-, validatie- en testdatasets (artikel 13(3), punt b), iv) tot en met vii)).
Door de aanbieder vooraf bepaalde wijzigingen
Noem de wijzigingen van het systeem en de prestaties ervan die u bij de eerste conformiteitsbeoordeling (de controle vóór de lancering of het systeem de verordening naleeft) vooraf hebt bepaald, indien van toepassing (artikel 13(3), punt c)).
Maatregelen voor menselijk toezicht
Beschrijf de maatregelen voor menselijk toezicht uit artikel 14, inclusief de technische maatregelen die gebruiksverantwoordelijken helpen outputs te interpreteren (artikel 13(3), punt d)).
Middelen, levensduur, onderhoud en logs
Vermeld de benodigde reken- en hardwaremiddelen, de verwachte levensduur en het onderhoud, met frequentie en software-updates (artikel 13(3), punt e)). Beschrijf, waar relevant, de mechanismen waarmee gebruiksverantwoordelijken logs conform artikel 12 kunnen verzamelen, opslaan en interpreteren (artikel 13(3), punt f)).
Vier manieren om de gebruiksaanwijzing juist te houden
Artikel 13 bepaalt de inhoud, niet het proces. Deze vier werkwijzen houden de gebruiksaanwijzing volledig en actueel.
Opstellen op basis van bestaande documenten
Haal systeemfeiten uit modelkaarten, datasheets en evaluatierapporten, en beheer de gebruiksaanwijzing met versiebeheer naast de code.
Beperkingen en wijzigingen bijhouden
Leg elke bekende beperking en elke faalwijze vast in een wijzigingslog. Werk de gebruiksaanwijzing bij zodra het systeem verandert.
Prestaties per groep vermelden
Vermeld, waar passend, de prestaties van het systeem voor de specifieke personen of groepen personen op wie het wordt toegepast (artikel 13(3), punt b), v)).
Uitleggen hoe outputs te lezen zijn
Leg gebruiksverantwoordelijken uit hoe zij outputs interpreteren, bijvoorbeeld met betrouwbaarheidsscores of toelichtingen als het systeem die biedt, en welke maatregelen voor menselijk toezicht gelden (artikel 13(3), punt b), vii), en punt d)).
Gebruiksverantwoordelijken gebruiken de gebruiksaanwijzing om hun eigen plichten na te leven
Gebruiksverantwoordelijken moeten passende technische en organisatorische maatregelen nemen om het systeem te gebruiken volgens de gebruiksaanwijzing (artikel 26(1)). Ze gebruiken de informatie uit artikel 13 ook voor hun gegevensbeschermingseffectbeoordeling, wanneer die verplicht is (artikel 26(9)). Een gebruiksverantwoordelijke kan alleen opvolgen wat in de gebruiksaanwijzing staat.
Artikel 13 geldt alleen voor hoogrisico-AI-systemen
Een systeem heeft een hoog risico als het onder een gebied van bijlage III valt, tenzij een uitzondering van artikel 6(3) geldt. Een systeem dat natuurlijke personen profileert, heeft altijd een hoog risico. Het heeft ook een hoog risico als het een product uit bijlage I is dat een conformiteitsbeoordeling door een derde partij vereist, of een veiligheidscomponent daarvan (artikel 6). Aanbieders vallen eronder als zij een systeem in de EU in de handel brengen of in gebruik stellen, waar zij ook gevestigd zijn (artikel 2(1), punt a)). Aanbieders en gebruiksverantwoordelijken in een derde land vallen er ook onder als de output van het systeem in de EU wordt gebruikt (artikel 2(1), punt c)). Hoogrisicosystemen die horen bij producten onder de wetten van bijlage I, afdeling B, vallen buiten artikel 13 (artikel 2(2)). Voor producten uit bijlage I, afdeling A, kunnen sommige eisen worden beperkt (artikel 2(13)). Dit betreft de artikelen 9 tot en met 15 en 17 tot en met 25, als sectorwetgeving een gelijkwaardige of hogere bescherming biedt. Gedelegeerde handelingen die uiterlijk 2 augustus 2027 volgen, bepalen welke. De verordening sluit militaire, defensie- en nationale veiligheidstoepassingen uit, en systemen die uitsluitend voor wetenschappelijk onderzoek zijn ontwikkeld (artikel 2(3) en (6)). Ook onderzoek en tests vóór het in de handel brengen vallen erbuiten (artikel 2(8)). Systemen die vóór de datum van toepassing al in de handel waren of in gebruik waren gesteld, vallen er alleen onder na ingrijpende ontwerpwijzigingen. In elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111(2)).
Veelgestelde vragen: formaat, open source, modelkaarten en boetes
Welk formaat moet de gebruiksaanwijzing hebben?
De verordening schrijft geen bestandsformaat voor. Artikel 13(2) eist een passend digitaal formaat of anderszins, met beknopte, volledige, juiste en duidelijke informatie die toegankelijk en begrijpelijk is voor gebruiksverantwoordelijken. Een pdf, een webpagina of documentatie die met de software wordt meegeleverd kan volstaan als ze volledig en duidelijk is.
Geldt artikel 13 voor open-source-AI?
Alleen als het systeem als hoogrisico-AI-systeem in de handel wordt gebracht of in gebruik wordt gesteld (artikel 2(12)). Dan moet de aanbieder een gebruiksaanwijzing leveren, ook al is de code openbaar.
Hoe verschilt artikel 13 van de technische documentatie van artikel 11?
De technische documentatie van artikel 11 wordt opgesteld voordat het systeem in de handel wordt gebracht (artikel 11(1)). Ze toont autoriteiten en aangemelde instanties (onafhankelijke beoordelaars) aan dat het systeem aan de eisen voldoet. De gebruiksaanwijzing van artikel 13 gaat naar de gebruiksverantwoordelijken, zodat zij het systeem juist gebruiken.
Wat als de gebruiksverantwoordelijke de gebruiksaanwijzing negeert?
De aanbieder moet een juiste gebruiksaanwijzing leveren (artikel 13) en de gebruiksverantwoordelijke moet het systeem daarnaar gebruiken (artikel 26(1)). Wie dat niet doet, schendt zijn eigen plicht. Daarvoor kan een boete van maximaal 15 miljoen EUR of 3 % van de wereldwijde jaaromzet volgen, als dat bedrag hoger is (artikel 99(4)).
Is een modelkaart genoeg als gebruiksaanwijzing?
Alleen als ze elk punt van artikel 13(3) dekt, inclusief contactgegevens van de aanbieder, maatregelen voor menselijk toezicht en onderhoud. Vergelijk uw modelkaart met de kaarten hierboven en vul aan wat ontbreekt.
Wat zijn de boetes, en geldt voor mkb-bedrijven een lager maximum?
Voor aanbieders (artikel 16) en gebruiksverantwoordelijken (artikel 26) bedragen de boetes maximaal 15 miljoen EUR of 3 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Voor mkb-bedrijven, inclusief start-ups, en kleine midcapondernemingen is het maximum het lagere van de twee bedragen (artikel 99(6) en (6 bis)). De lidstaten stellen de sanctieregels vast (artikel 99(1)).
Lees daarna: technische documentatie, menselijk toezicht en plichten van gebruiksverantwoordelijken
Artikel 11: technische documentatie
Aanbieders stellen vóór het in de handel brengen technische documentatie op om aan te tonen dat het systeem aan de eisen voldoet.
Artikel 14: menselijk toezicht
De gebruiksaanwijzing moet de toezichtmaatregelen beschrijven die artikel 14 eist.
Artikel 26: plichten van gebruiksverantwoordelijken
Gebruiksverantwoordelijken gebruiken het systeem volgens de gebruiksaanwijzing, monitoren het en bewaren logs.
Scanara bereidt bewijs voor vanuit uw repositories
Scanara leest uw gekoppelde GitHub-repositories en voert regelgebaseerde scans uit op gangbare AI- en machine-learningpatronen. Niet-standaardcode kan het missen. Daarnaast genereert het conceptdocumentatie op basis van sjablonen en uw antwoorden in de beoordelingen, als bewijs voor uw compliancewerk. De indeling bepaalt u zelf.