Skip to main content

AI-verordening gezondheidszorg: nalevingsgids

Nalevingsgids AI-verordening voor gezondheidszorg en medische hulpmiddelen met AI: hoog-risico classificatie en wisselwerking met de MDR.

‘Gezondheidszorg’ is geen categorie van de AI-verordening. AI in de gezondheidszorg is hoogrisico via de productwetgeving voor medische hulpmiddelen (bijlage I) of via toepassingen in bijlage III, zoals triage bij spoedzorg.

Aanbieders moeten voldoen aan de eisen voor hoogrisicosystemen (artikel 113, punt c)). Ze gelden vanaf 2 augustus 2028 voor producten en vanaf 2 december 2027 voor systemen uit bijlage III. Boetes bedragen maximaal 15 miljoen EUR of, voor een onderneming, 3 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Volgende stap: controleer of uw medisch hulpmiddel een conformiteitsbeoordeling door een derde partij vereist volgens Verordening (EU) 2017/745 of (EU) 2017/746.

AI in de gezondheidszorg is hoogrisico via productwetgeving of via een toepassing uit bijlage III

De verordening heeft geen hoofdstuk over de gezondheidszorg. Een systeem kan onder productwetgeving vallen, onder een toepassing uit bijlage III, onder beide of onder geen van beide.

Productwetgeving: medische hulpmiddelen en medische hulpmiddelen voor in-vitrodiagnostiek (bijlage I, afdeling A)

Onder de route vallen producten onder Verordening (EU) 2017/745 (medische hulpmiddelen, punt 11) en Verordening (EU) 2017/746 (medische hulpmiddelen voor in-vitrodiagnostiek, punt 12). AI die zo’n product is, of een veiligheidscomponent daarvan, is hoogrisico als dat product volgens die wetgeving een conformiteitsbeoordeling door een derde partij moet ondergaan (artikel 6(1)). Die verordeningen bepalen of een hulpmiddel er een nodig heeft, niet de AI-verordening.

Toepassingen uit bijlage III die voor de gezondheidszorg van belang zijn

Punt 5, d), betreft systemen die bedoeld zijn om noodoproepen te evalueren en te classificeren. Het betreft ook systemen die bedoeld zijn om hulpdiensten, onder meer politie, brandweer en ambulance, uit te sturen of daarbij voorrang te bepalen. Het betreft verder systemen voor de triage van patiënten die dringend medische zorg behoeven. Punt 5, a), betreft systemen die bedoeld zijn om door of namens overheidsinstanties te worden gebruikt om te beoordelen of personen in aanmerking komen voor essentiële overheidsuitkeringen en -diensten, waaronder gezondheidsdiensten. Het betreft ook het verlenen, beperken, intrekken of terugvorderen van die uitkeringen en diensten. Punt 5, c), betreft risicobeoordeling en prijsstelling bij levens- en ziektekostenverzekeringen. Punt 1, c), betreft emotieherkenning, voor zover het gebruik ervan wettelijk is toegestaan.

Deze punten bepalen of een systeem in de gezondheidszorg binnen het bereik valt

  • Veiligheidscomponent of niet

    Een systeem dat alleen wordt gebruikt voor niet-veiligheidsgerelateerde aspecten van gebruikersondersteuning, prestatieoptimalisatie, service-efficiëntie, automatisering, gemak of kwaliteitscontrole is geen veiligheidscomponent. Een systeem waarvan uitval of slecht functioneren de gezondheid en veiligheid in gevaar zou brengen, is dat wel (artikel 6(1 bis) en (1 ter)).

  • Een systeem in beide routes

    Een systeem kan onder wetgeving uit afdeling A vallen en ook in een gebied van bijlage III. De aanbieder volgt dan de conformiteitsbeoordelingsprocedure die de wetgeving uit afdeling A vereist (artikel 43(3)).

  • De uitzondering van bijlage III

    Een systeem uit bijlage III is niet hoogrisico als het geen significant risico op schade voor gezondheid, veiligheid of grondrechten inhoudt. De uitzondering geldt alleen als aan een van de vier voorwaarden van artikel 6(3), onder a) tot en met d), is voldaan. Een systeem dat profilering van natuurlijke personen uitvoert, is altijd hoogrisico. Een aanbieder die zich op de uitzondering beroept, documenteert zijn beoordeling voordat hij het systeem in de handel brengt of in gebruik stelt (artikel 6(4)).

  • Emotieherkenning

    Het afleiden van emoties van een persoon op de werkplek en in het onderwijs is verboden (artikel 5(1), punt f)). Het verbod geldt niet wanneer het gebruik van het systeem is bedoeld om uit medische of veiligheidsoverwegingen te worden ingevoerd of in de handel te worden gebracht. Boetes voor verboden praktijken bedragen maximaal 35 miljoen EUR of, voor een onderneming, 7 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(3)). Emotieherkenningssystemen staan ook in bijlage III, punt 1, c), voor zover het gebruik ervan wettelijk is toegestaan.

  • Hulpmiddelen in geen van beide routes

    Bijlage III noemt geen software voor het plannen van afspraken of voor facturering. Zulke software is alleen hoogrisico als ze onder een genoemde toepassing of onder productwetgeving uit bijlage I valt (artikel 6).

De verordening bouwt voort op productwetgeving in plaats van haar te vervangen

De verordening laat andere productveiligheidsregels van de Unie onverlet (artikel 2(9)). Voor producten uit bijlage I, afdeling A, biedt ze deze aanknopingspunten met de productwetgeving.

  • Eén route voor de conformiteitsbeoordeling

    De aanbieder volgt de conformiteitsbeoordelingsprocedure die de productwetgeving vereist. De eisen van afdeling 2 van hoofdstuk III maken deel uit van die beoordeling, die ook het kwaliteitsbeheersysteem van artikel 17 omvat (artikel 43(3)). Als de productwetgeving de fabrikant toestaat een beoordeling zonder derde partij te gebruiken, mag hij die optie alleen gebruiken als hij ook geharmoniseerde normen of, in voorkomend geval, gemeenschappelijke specificaties heeft toegepast die alle eisen van afdeling 2 dekken.

  • Aangemelde instanties

    Een aangemelde instantie die is aangemeld op grond van Verordening (EU) 2017/745 of (EU) 2017/746 mag de conformiteit met afdeling 2 beoordelen. Daarvoor moet de naleving van artikel 31, leden 4, 5, 10 en 11, zijn beoordeeld bij haar aanmelding. Ze moet uiterlijk 28 januari 2028 een aanvraag voor aanwijzing op grond van de AI-verordening indienen (artikel 43(3)).

  • Eén set technische documentatie

    Voor producten uit afdeling A stelt de aanbieder één set technische documentatie op, met de informatie die de AI-verordening vereist en de informatie die de productwetgeving vereist (artikel 11(2)). Tests, rapportage, risicobeheer en kwaliteitsbeheer kunnen worden opgenomen in bestaande procedures (artikelen 8(2), 9(10) en 17(3)). Monitoring na het in de handel brengen ook, als dat een gelijkwaardig beschermingsniveau biedt (artikel 72(4)).

  • De fabrikant is de aanbieder

    Voor een hoogrisico-AI-systeem dat een veiligheidscomponent is van een product uit afdeling A, is de fabrikant van het product de aanbieder en draagt hij de plichten van artikel 16. Dat geldt als het systeem samen met het product onder de naam of het handelsmerk van de fabrikant in de handel wordt gebracht. Het geldt ook als het systeem onder die naam of dat handelsmerk in gebruik wordt gesteld nadat het product in de handel is gebracht (artikel 25(3)).

  • Autoriteiten en incidentmeldingen

    De markttoezichtautoriteit is de autoriteit die volgens de productwetgeving is aangewezen; in passende omstandigheden kan een lidstaat een andere autoriteit aanwijzen (artikel 74(3)). Als de productwetgeving al procedures met een gelijkwaardig beschermingsniveau en hetzelfde doel kent, gelden die in plaats van de artikelen 79 tot en met 83 (artikel 74(4)). De melding van ernstige incidenten voor hulpmiddelen is beperkt tot schendingen van verplichtingen uit het Unierecht die de grondrechten beschermen (artikelen 3, punt 49, c), en 73(10)).

  • Mogelijke beperkingen via gedelegeerde handelingen

    De artikelen 9 tot en met 15 en 17 tot en met 25 kunnen worden beperkt voor zover wetgeving uit afdeling A een gelijk of hoger beschermingsniveau biedt (artikel 2(13)). De beperking mag het algemene beschermingsniveau niet verlagen. Uiterlijk 2 augustus 2027 moet de Commissie gedelegeerde handelingen vaststellen die de systemen, de eisen, de voorwaarden en de reikwijdte bepalen.

Aanbieders en ziekenhuizen hebben verschillende plichten

  • Aanbieder: meestal de fabrikant van het medisch hulpmiddel

    De aanbieder voldoet aan de eisen van de artikelen 9 tot en met 15 en aan de plichten van artikel 16, waaronder een kwaliteitsbeheersysteem (artikel 17). Hij stelt ook de technische documentatie op en monitort het systeem nadat het in de handel is gebracht (artikelen 11 en 72).

  • Gebruiksverantwoordelijke: ziekenhuis, kliniek of laboratorium

    Een gebruiksverantwoordelijke is een natuurlijke persoon of rechtspersoon, overheidsinstantie, agentschap of ander orgaan die een AI-systeem onder eigen verantwoordelijkheid gebruikt (artikel 3, punt 4). Hij gebruikt het systeem volgens de gebruiksaanwijzing en wijst toezicht toe aan personen met bekwaamheid, opleiding en bevoegdheid (artikel 26(1) en (2)). Hij monitort de werking op basis van de gebruiksaanwijzing, meldt ernstige incidenten en bewaart de logs onder zijn controle minstens zes maanden, tenzij ander recht anders bepaalt (artikel 26(5) en (6)). Een natuurlijke persoon die een systeem gebruikt in een puur persoonlijke, niet-professionele activiteit valt buiten de verordening (artikel 2(10)).

  • Beoordeling van de gevolgen voor de grondrechten (artikel 27)

    Artikel 27 betreft hoogrisico-AI-systemen als bedoeld in artikel 6(2), dus die uit bijlage III, met uitzondering van punt 2. Gebruiksverantwoordelijken die publiekrechtelijke organen zijn, of particuliere entiteiten die openbare diensten verlenen, moeten de gevolgen voor de grondrechten beoordelen voordat ze zo’n systeem in gebruik nemen (artikel 27(1)). Dat moeten ook gebruiksverantwoordelijken van systemen uit bijlage III, punt 5, b) en c), zoals voor kredietwaardigheid en de prijsstelling van levens- en ziektekostenverzekeringen, ongeacht hun status. Een ziekenhuis dat AI gebruikt in een hulpmiddel uit afdeling A heeft geen plicht uit artikel 27.

  • Een gebruiksverantwoordelijke kan aanbieder worden

    Een gebruiksverantwoordelijke, distributeur, importeur of andere derde wordt in drie gevallen als aanbieder beschouwd (artikel 25(1)). Hij plaatst zijn naam of handelsmerk op een al in de handel gebracht hoogrisicosysteem. Contractuele afspraken kunnen de verplichtingen anders verdelen. Hij brengt een substantiële wijziging aan in een al in de handel gebracht hoogrisicosysteem, zodat het hoogrisico blijft. Hij wijzigt het beoogde doel van een systeem dat niet als hoogrisico is ingedeeld, zodat het hoogrisico wordt.

De verordening bereikt geen systemen die alleen voor onderzoek dienen en ook geen ontwikkeling vóór het in de handel brengen

  • Onderzoek en ontwikkeling

    De verordening is niet van toepassing op AI-systemen of AI-modellen, met inbegrip van hun output, die specifiek voor wetenschappelijk onderzoek en wetenschappelijke ontwikkeling als enig doel zijn ontwikkeld en in gebruik gesteld (artikel 2(6)). Ze is niet van toepassing op onderzoek, tests en ontwikkeling vóór een systeem in de handel wordt gebracht of in gebruik wordt gesteld (artikel 2(8)). Tests onder reële omstandigheden vallen niet onder die uitsluiting. Voorbeeld: een model dat alleen voor geneesmiddelenonderzoek is gebouwd en gebruikt, kan onder artikel 2(6) vallen.

  • Artikel 2(2) beperkt AI in medische hulpmiddelen niet

    Wetgeving over medische hulpmiddelen staat in bijlage I, afdeling A. De beperking van artikel 2(2), die voor producten uit afdeling B alleen artikel 6(1), artikel 60 bis en de artikelen 102 tot en met 112 overlaat, geldt daarvoor niet.

Belangrijke datums voor AI in de gezondheidszorg

2 augustus 2027

De Commissie moet gedelegeerde handelingen hebben vastgesteld die de artikelen 9 tot en met 15 en 17 tot en met 25 voor systemen uit afdeling A kunnen beperken (artikel 2(13)).

2 december 2027

De regels voor hoogrisicosystemen gelden voor systemen uit bijlage III (artikel 113, punt c), i)). Voorbeelden zijn triage bij spoedzorg (punt 5, d)) en systemen voor publieke zorguitkeringen (punt 5, a)).

28 januari 2028

Aangemelde instanties die op grond van de productwetgeving zijn aangemeld, moeten een aanvraag voor aanwijzing op grond van de AI-verordening hebben ingediend (artikel 43(3)).

2 augustus 2028

De regels voor hoogrisicosystemen gelden voor AI die een product uit bijlage I, afdeling A, is of een veiligheidscomponent daarvan (artikel 113, punt c), ii)).

2 augustus 2030

Aanbieders en gebruiksverantwoordelijken van hoogrisicosystemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, moeten de nodige stappen ondernemen om te voldoen. Andere hoogrisicosystemen die eerder in de handel zijn gebracht of in gebruik zijn gesteld, vallen er pas onder na aanzienlijke wijzigingen in hun ontwerp (artikel 111(2)).

Boetes voor plichten van aanbieders en gebruiksverantwoordelijken bedragen maximaal 15 miljoen EUR of, voor een onderneming, 3 % van de omzet

Artikel 16 bepaalt de plichten van aanbieders, waartoe de naleving van de artikelen 9 tot en met 15 behoort, en artikel 26 die van gebruiksverantwoordelijken. Overtreding van een van beide wordt beboet met maximaal 15 miljoen EUR of, voor een onderneming, 3 % van de wereldwijde jaaromzet, als dat bedrag hoger is (artikel 99(4)). Voor mkb-bedrijven, inclusief start-ups, en kleine midcapondernemingen (artikel 3, punt 14 ter) is elke boete maximaal het lagere van de twee bedragen (artikel 99(6) en (6 bis)). Elke lidstaat bepaalt in hoeverre boetes kunnen worden opgelegd aan overheidsinstanties (artikel 99, lid 8). De lidstaten stellen de sanctieregels vast (artikel 99(1)).

Plichten van de aanbieder van hoogrisico-AI in de gezondheidszorg, artikel voor artikel

  • Artikel 9
    Systeem voor risicobeheer

    Voer het uit als een doorlopend iteratief proces gedurende de hele levenscyclus (artikel 9(2)).

  • Artikel 10
    Data en datagovernance

    Gebruik trainings-, validatie- en testdatasets die voldoen aan de kwaliteitscriteria en governancepraktijken van artikel 10(2) tot en met (4).

  • Artikel 12
    Het bijhouden van logbestanden

    Ontwerp het systeem zo dat het automatische registratie van gebeurtenissen (logs) gedurende zijn levensduur mogelijk maakt (artikel 12(1)).

  • Artikel 13
    Transparantie en gebruiksaanwijzing

    Geef gebruiksverantwoordelijken een gebruiksaanwijzing met minstens de inhoud van artikel 13(3).

  • Artikel 14
    Menselijk toezicht

    Ontwerp het systeem zo dat natuurlijke personen er tijdens het gebruik doeltreffend toezicht op kunnen houden (artikel 14(1)).

  • Artikel 15
    Nauwkeurigheid, robuustheid en cyberbeveiliging

    Ontwerp het systeem voor een passend niveau van elk daarvan en verklaar de nauwkeurigheidsniveaus en maatstaven in de gebruiksaanwijzing (artikel 15(1) en (3)).

  • Artikel 17
    Kwaliteitsbeheersysteem

    Voer er een in. Een aanbieder met sectorale verplichtingen voor kwaliteitsbeheer mag de aspecten van artikel 17(1) in dat systeem opnemen (artikel 17(3)).

  • Artikel 72
    Monitoring na het in de handel brengen

    Zet een systeem voor monitoring na het in de handel brengen op en documenteer het (artikel 72(1)).

Veelgestelde vragen: hoogrisico, documenten, aangemelde instanties, effectbeoordeling en datums

Is mijn AI-systeem in de gezondheidszorg hoogrisico?

Dat is het als het een medisch hulpmiddel of een medisch hulpmiddel voor in-vitrodiagnostiek is, of een veiligheidscomponent daarvan, en het product een conformiteitsbeoordeling door een derde partij moet ondergaan (artikel 6(1)). Het is ook hoogrisico als het onder een toepassing uit bijlage III valt, zoals de triage van patiënten die dringend medische zorg behoeven (punt 5, d)), tenzij een uitzondering van artikel 6(3) geldt. De productwetgeving bepaalt of een product een beoordeling door een derde partij nodig heeft. Controleer eerst de conformiteitsbeoordelingsroute van uw product.

Kan ik dezelfde documenten gebruiken voor productwetgeving en de AI-verordening?

Voor de technische documentatie wel. Aanbieders van producten uit afdeling A stellen één set op met de informatie die de AI-verordening vereist en de informatie die de productwetgeving vereist (artikel 11(2)). Aanbieders mogen tests, rapportage en procedures ook opnemen in die welke ze al hebben (artikel 8(2)). Koppel elke eis van de AI-verordening aan een document, zodat elke eis kan worden aangetoond.

Wat doet een aangemelde instantie onder de AI-verordening?

Voor producten uit afdeling A volgt de aanbieder de conformiteitsbeoordelingsprocedure van de productwetgeving, en de eisen van de AI-verordening maken daar deel van uit (artikel 43(3)). Een aangemelde instantie die op grond van die wetgeving is aangemeld, mag ze beoordelen als de naleving van artikel 31, leden 4, 5, 10 en 11, is beoordeeld bij haar aanmelding. Ze moet uiterlijk 28 januari 2028 een aanvraag voor aanwijzing op grond van de AI-verordening indienen.

Heeft een ziekenhuis een beoordeling van de gevolgen voor de grondrechten nodig?

Alleen voor systemen uit bijlage III, met uitzondering van punt 2. Een gebruiksverantwoordelijke die een publiekrechtelijk orgaan is, of een particuliere entiteit die openbare diensten verleent, moet de beoordeling uitvoeren voordat hij zo’n systeem in gebruik neemt (artikel 27(1)). Dat moeten ook gebruiksverantwoordelijken van systemen uit bijlage III, punt 5, b) en c), ongeacht hun status. Artikel 27 geldt niet voor een systeem dat alleen via afdeling A hoogrisico is, zoals AI in een medisch hulpmiddel.

Vanaf wanneer moet AI in de gezondheidszorg voldoen?

Ze gelden vanaf 2 augustus 2028 voor AI-systemen die hoogrisico zijn volgens artikel 6(1) en bijlage I (artikel 113, punt c), ii)). Ze gelden vanaf 2 december 2027 voor AI-systemen die hoogrisico zijn volgens artikel 6(2) en bijlage III (artikel 113, punt c), i)). Een AI-systeem met een hoog risico dat vóór de voor dat systeem geldende datum in de handel is gebracht of in gebruik is gesteld, valt er alleen onder als het ontwerp daarna aanzienlijk wordt gewijzigd. In elk geval moeten aanbieders en gebruiksverantwoordelijken van hoogrisico-AI-systemen die bedoeld zijn om door overheidsinstanties te worden gebruikt, uiterlijk 2 augustus 2030 de nodige stappen ondernemen om te voldoen (artikel 111(2)).

Scanara bereidt bewijs voor vanuit uw repositories

Scanara leest uw gekoppelde GitHub-repositories en voert regelgebaseerde scans uit op gangbare AI- en machine-learningpatronen. Niet-standaardcode kan het missen. Daarnaast genereert het conceptdocumentatie op basis van sjablonen en uw antwoorden in de beoordelingen, als bewijs voor uw compliancewerk. De indeling bepaalt u zelf.