Règlement IA santé : guide de conformité
Guide de conformité au règlement IA pour la santé et les dispositifs médicaux IA : classification à haut risque et lien avec le MDR.
« Santé » n’est pas une catégorie du règlement sur l’IA. L’IA dans la santé est à haut risque par la législation sur les dispositifs médicaux (annexe I). Elle l’est aussi par des usages de l’annexe III, comme le tri aux urgences.
Les fournisseurs doivent respecter les exigences applicables aux systèmes à haut risque (article 113, point c)). Elles s’appliquent à partir du 2 août 2028 aux produits et du 2 décembre 2027 aux systèmes de l’annexe III. Les amendes atteignent 15 millions d’EUR ou, pour une entreprise, 3 % du chiffre d’affaires annuel mondial. Le montant le plus élevé s’applique (article 99(4)). Prochaine étape : vérifiez si votre dispositif médical requiert une évaluation de la conformité par un tiers (règlements (UE) 2017/745 et 2017/746).
L’IA dans la santé est à haut risque par la législation sur les produits ou par un usage de l’annexe III
Le règlement n’a pas de chapitre sur la santé. Un système peut relever de la législation sur les produits, d’un usage de l’annexe III, des deux ou d’aucun.
Législation sur les produits : dispositifs médicaux et dispositifs médicaux de diagnostic in vitro (annexe I, section A)
Sont couverts les produits relevant du règlement (UE) 2017/745 (dispositifs médicaux, point 11) et du règlement (UE) 2017/746 (dispositifs médicaux de diagnostic in vitro, point 12). Une IA qui est un tel produit, ou son composant de sécurité, est à haut risque si ce produit doit faire l’objet d’une évaluation de la conformité par un tiers au titre de cette législation (article 6(1)). Ces règlements décident si un dispositif en requiert une, pas le règlement sur l’IA.
Usages de l’annexe III qui comptent pour la santé
Le point 5 d) couvre les systèmes destinés à évaluer et hiérarchiser les appels d’urgence. Il couvre aussi les systèmes destinés à envoyer des services d’intervention d’urgence, y compris la police, les pompiers et l’assistance médicale, ou à établir des priorités dans leur envoi. Il couvre encore les systèmes de tri des patients admis dans les services de santé d’urgence. Le point 5 a) couvre les systèmes destinés à être utilisés par les autorités publiques ou en leur nom pour évaluer l’éligibilité de personnes aux prestations et services d’aide sociale essentiels, y compris les services de soins de santé. Il couvre aussi l’octroi, la réduction, la révocation ou la récupération de ces prestations et services. Le point 5 c) couvre l’évaluation des risques et la tarification en matière d’assurance maladie et d’assurance vie. Le point 1 c) couvre la reconnaissance des émotions, dans la mesure où son utilisation est autorisée par la loi.
Ces points décident si un système de santé est couvert
Composant de sécurité ou non
Un système utilisé uniquement pour des aspects non liés à la sécurité de l’assistance aux utilisateurs, de l’optimisation des performances, de l’efficacité du service, de l’automatisation, de la commodité ou du contrôle de la qualité n’est pas un composant de sécurité. Un système dont la défaillance ou le dysfonctionnement mettrait en danger la santé et la sécurité en est un (article 6(1 bis) et (1 ter)).
Un système relevant des deux voies
Un système peut relever d’une législation de la section A et entrer aussi dans un domaine de l’annexe III. Le fournisseur suit alors la procédure d’évaluation de la conformité qu’exige la législation de la section A (article 43(3)).
La dérogation de l’annexe III
Un système de l’annexe III n’est pas à haut risque s’il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux. La dérogation ne s’applique que si l’une quelconque des quatre conditions de l’article 6(3), points a) à d), est remplie. Un système qui effectue du profilage de personnes physiques est toujours à haut risque. Le fournisseur qui invoque la dérogation documente son évaluation avant de mettre le système sur le marché ou de le mettre en service (article 6(4)).
Reconnaissance des émotions
Inférer les émotions d’une personne sur le lieu de travail et dans les établissements d’enseignement est interdit (article 5(1), point f)). L’interdiction ne s’applique pas lorsque le système est destiné à être mis en place ou mis sur le marché pour des raisons médicales ou de sécurité. Les amendes pour pratiques interdites atteignent 35 millions d’EUR ou, pour une entreprise, 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu (article 99(3)). Les systèmes de reconnaissance des émotions figurent aussi à l’annexe III, point 1 c), dans la mesure où leur utilisation est autorisée par la loi.
Outils relevant d’aucune des deux voies
L’annexe III ne mentionne aucun logiciel de prise de rendez-vous ou de facturation. Un tel logiciel n’est à haut risque que s’il relève d’un usage listé ou d’une législation sur les produits de l’annexe I (article 6).
Le règlement s’appuie sur la législation sur les produits au lieu de la remplacer
Le règlement s’applique sans préjudice des autres règles de l’Union en matière de sécurité des produits (article 2(9)). Pour les produits de l’annexe I, section A, il offre ces liens avec la législation sur les produits.
Une seule voie d’évaluation de la conformité
Le fournisseur suit la procédure d’évaluation de la conformité qu’exige la législation applicable au produit. Les exigences de la section 2 du chapitre III font partie de cette évaluation, qui couvre aussi le système de gestion de la qualité de l’article 17 (article 43(3)). Lorsque cette législation permet au fabricant de recourir à une évaluation sans intervention d’un tiers, il ne peut utiliser cette option que s’il a aussi appliqué des normes harmonisées ou, le cas échéant, des spécifications communes couvrant toutes les exigences de la section 2.
Organismes notifiés
Un organisme notifié au titre du règlement (UE) 2017/745 ou (UE) 2017/746 peut évaluer la conformité avec la section 2. Il faut pour cela que le respect de l’article 31(4), (5), (10) et (11) ait été évalué lors de sa notification. Il doit introduire une demande de désignation au titre du règlement sur l’IA au plus tard le 28 janvier 2028 (article 43(3)).
Une documentation technique unique
Pour les produits de la section A, le fournisseur établit une documentation technique unique, avec les informations qu’exige le règlement sur l’IA et celles qu’exige la législation applicable au produit (article 11(2)). Les essais, les rapports, la gestion des risques et la gestion de la qualité peuvent être intégrés à des procédures existantes (articles 8(2), 9(10) et 17(3)). La surveillance après commercialisation aussi, si cela offre un niveau de protection équivalent (article 72(4)).
Le fabricant est le fournisseur
Pour un système d’IA à haut risque qui est un composant de sécurité d’un produit de la section A, le fabricant du produit est le fournisseur et assume les obligations de l’article 16. Cela s’applique si le système est mis sur le marché avec le produit sous le nom ou la marque du fabricant. Cela s’applique aussi s’il est mis en service sous ce nom ou cette marque après la mise sur le marché du produit (article 25(3)).
Autorités et signalement des incidents
L’autorité de surveillance du marché est celle désignée au titre de la législation applicable au produit ; dans des circonstances appropriées, un État membre peut désigner une autre autorité (article 74(3)). Lorsque cette législation prévoit déjà des procédures offrant un niveau de protection équivalent et poursuivant le même objectif, elles s’appliquent à la place des articles 79 à 83 (article 74(4)). La notification des incidents graves pour les dispositifs se limite aux violations d’obligations découlant du droit de l’Union qui protègent les droits fondamentaux (articles 3, point 49 c), et 73(10)).
Limites possibles par actes délégués
Les articles 9 à 15 et 17 à 25 peuvent être limités dans la mesure où une législation de la section A offre un niveau de protection équivalent ou supérieur (article 2(13)). La limitation ne doit pas réduire le niveau général de protection. D’ici le 2 août 2027, la Commission doit adopter des actes délégués précisant les systèmes, les exigences, les conditions et la portée.
Les fournisseurs et les hôpitaux ont des obligations différentes
Fournisseur : en général le fabricant du dispositif médical
Le fournisseur respecte les exigences des articles 9 à 15 et les obligations de l’article 16, dont un système de gestion de la qualité (article 17). Il établit aussi la documentation technique et surveille le système après sa mise sur le marché (articles 11 et 72).
Déployeur : hôpital, clinique ou laboratoire
Un déployeur est une personne physique ou morale, une autorité publique, une agence ou un autre organisme qui utilise un système d’IA sous sa propre autorité (article 3, point 4). Il utilise le système conformément à la notice d’utilisation et confie le contrôle à des personnes disposant des compétences, de la formation et de l’autorité nécessaires (article 26(1) et (2)). Il surveille le fonctionnement sur la base de la notice d’utilisation, signale les incidents graves et conserve les journaux placés sous son contrôle au moins six mois, sauf disposition contraire d’une autre règle (article 26(5) et (6)). Une personne physique qui utilise un système dans le cadre d’une activité strictement personnelle à caractère non professionnel est en dehors du règlement (article 2(10)).
Analyse d’impact sur les droits fondamentaux (article 27)
L’article 27 concerne les systèmes d’IA à haut risque visés à l’article 6(2), c’est-à-dire ceux de l’annexe III, à l’exception du point 2. Les déployeurs qui sont des organismes de droit public, ou des entités privées fournissant des services publics, doivent réaliser une analyse d’impact sur les droits fondamentaux avant de déployer un tel système (article 27(1)). Les déployeurs de systèmes de l’annexe III, point 5 b) et c), comme la solvabilité et la tarification des assurances maladie et vie, y sont tenus quel que soit leur statut. Un hôpital qui utilise une IA dans un dispositif de la section A n’a pas d’obligation au titre de l’article 27.
Un déployeur peut devenir fournisseur
Un déployeur, un distributeur, un importateur ou un autre tiers est considéré comme fournisseur dans trois cas (article 25(1)). Il appose son nom ou sa marque sur un système à haut risque déjà mis sur le marché. Des arrangements contractuels peuvent répartir les obligations autrement. Il apporte une modification substantielle à un système à haut risque déjà mis sur le marché, de sorte qu’il reste à haut risque. Il modifie la finalité prévue d’un système non classé à haut risque, de sorte qu’il le devient.
Le règlement ne couvre ni les systèmes de pure recherche ni le développement avant la mise sur le marché
Recherche et développement
Le règlement ne s’applique pas aux systèmes ou modèles d’IA, y compris leurs sorties, spécifiquement développés et mis en service à la seule fin de la recherche et du développement scientifiques (article 2(6)). Il ne s’applique pas à la recherche, aux essais et au développement avant la mise sur le marché ou la mise en service d’un système (article 2(8)). Les essais en conditions réelles ne relèvent pas de cette exclusion. Exemple : un modèle conçu et utilisé uniquement pour la recherche de médicaments peut relever de l’article 2(6).
L’article 2(2) ne limite pas l’IA des dispositifs médicaux
La législation sur les dispositifs médicaux figure à l’annexe I, section A. La limite de l’article 2(2), qui ne laisse que l’article 6(1), l’article 60 bis et les articles 102 à 112 pour les produits de la section B, ne s’y applique pas.
Dates clés pour l’IA dans la santé
La Commission doit avoir adopté des actes délégués pouvant limiter les articles 9 à 15 et 17 à 25 pour les systèmes de la section A (article 2(13)).
Les règles relatives aux systèmes à haut risque s’appliquent aux systèmes de l’annexe III (article 113, point c), i)). Des exemples sont le tri aux urgences (point 5 d)) et les systèmes de prestations publiques de santé (point 5 a)).
Les organismes notifiés au titre des législations sur les produits doivent avoir introduit une demande de désignation au titre du règlement sur l’IA (article 43(3)).
Les règles relatives aux systèmes à haut risque s’appliquent à l’IA qui est un produit de l’annexe I, section A, ou un composant de sécurité d’un tel produit (article 113, point c), ii)).
Les fournisseurs et les déployeurs de systèmes à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer. Les autres systèmes à haut risque mis sur le marché ou mis en service plus tôt ne sont couverts qu’après d’importantes modifications de leur conception (article 111(2)).
Les amendes pour les obligations des fournisseurs et des déployeurs atteignent 15 millions d’EUR ou, pour une entreprise, 3 % du chiffre d’affaires
L’article 16 fixe les obligations des fournisseurs, qui comprennent le respect des articles 9 à 15, et l’article 26 celles des déployeurs. Le manquement à l’une ou l’autre est passible d’amendes allant jusqu’à 15 millions d’EUR ou, pour une entreprise, 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu (article 99(4)). Pour les PME, y compris les jeunes pousses, et les petites ETI (article 3, point 14 ter), chaque amende atteint au plus le plus faible des deux montants (article 99(6) et (6 bis)). Le règlement les appelle « petites entreprises à moyenne capitalisation ». Chaque État membre détermine dans quelle mesure des amendes peuvent être imposées aux autorités publiques (article 99, paragraphe 8). Les États membres fixent les règles relatives aux sanctions (article 99(1)).
Obligations du fournisseur d’IA à haut risque dans la santé, article par article
- Article 9Système de gestion des risques
Menez-le comme un processus itératif continu sur tout le cycle de vie (article 9(2)).
- Article 10Données et gouvernance des données
Utilisez des jeux de données d’entraînement, de validation et de test qui respectent les critères de qualité et les pratiques de gouvernance de l’article 10(2) à (4).
- Article 12Enregistrement
Concevez le système pour qu’il permette l’enregistrement automatique des événements (journaux) pendant sa durée de vie (article 12(1)).
- Article 13Transparence et notice d’utilisation
Remettez aux déployeurs une notice d’utilisation contenant au moins les éléments listés à l’article 13(3).
- Article 14Contrôle humain
Concevez le système pour que des personnes physiques puissent le contrôler efficacement pendant son utilisation (article 14(1)).
- Article 15Exactitude, robustesse et cybersécurité
Concevez le système pour un niveau approprié de chacune, et déclarez les niveaux d’exactitude et les indicateurs dans la notice d’utilisation (article 15(1) et (3)).
- Article 17Système de gestion de la qualité
Mettez-en un en place. Un fournisseur soumis à des obligations sectorielles de gestion de la qualité peut intégrer les aspects de l’article 17(1) à ce système (article 17(3)).
- Article 72Surveillance après commercialisation
Établissez et documentez un système de surveillance après commercialisation (article 72(1)).
Questions fréquentes : haut risque, documents, organismes notifiés, analyse d’impact et dates
Mon système d’IA dans la santé est-il à haut risque ?
Il l’est s’il est un dispositif médical ou un dispositif médical de diagnostic in vitro, ou un composant de sécurité de l’un d’eux, et que le produit doit faire l’objet d’une évaluation de la conformité par un tiers (article 6(1)). Il l’est aussi s’il relève d’un usage de l’annexe III, comme le tri des patients dans les services de santé d’urgence (point 5 d)), sauf si une dérogation de l’article 6(3) s’applique. La législation sur le produit décide si un produit requiert une évaluation par un tiers. Vérifiez d’abord la voie d’évaluation de la conformité de votre produit.
Puis-je utiliser les mêmes documents pour la législation sur les produits et pour le règlement sur l’IA ?
Pour la documentation technique, oui. Les fournisseurs de produits de la section A établissent un jeu unique contenant les informations qu’exige le règlement sur l’IA et celles qu’exige la législation applicable au produit (article 11(2)). Les fournisseurs peuvent aussi intégrer les essais, les rapports et les procédures à ceux qu’ils ont déjà (article 8(2)). Associez chaque exigence du règlement sur l’IA à un document, afin de pouvoir démontrer chacune.
Que fait un organisme notifié au titre du règlement sur l’IA ?
Pour les produits de la section A, le fournisseur suit la procédure d’évaluation de la conformité de la législation applicable au produit, et les exigences du règlement sur l’IA en font partie (article 43(3)). Un organisme notifié au titre de cette législation a le pouvoir de les évaluer si le respect de l’article 31(4), (5), (10) et (11) a été évalué lors de sa notification. Il doit introduire une demande de désignation au titre du règlement sur l’IA au plus tard le 28 janvier 2028.
Un hôpital a-t-il besoin d’une analyse d’impact sur les droits fondamentaux ?
Uniquement pour les systèmes de l’annexe III, à l’exception du point 2. Un déployeur qui est un organisme de droit public, ou une entité privée fournissant des services publics, doit réaliser l’analyse avant de déployer un tel système (article 27(1)). Les déployeurs de systèmes de l’annexe III, point 5 b) et c), y sont aussi tenus, quel que soit leur statut. L’article 27 ne s’applique pas à un système qui n’est à haut risque que par la section A, comme une IA dans un dispositif médical.
À partir de quand l’IA dans la santé doit-elle être conforme ?
Elles s’appliquent à partir du 2 août 2028 aux systèmes d’IA à haut risque selon l’article 6(1) et l’annexe I (article 113, point c), ii)). Elles s’appliquent à partir du 2 décembre 2027 aux systèmes d’IA à haut risque selon l’article 6(2) et l’annexe III (article 113, point c), i)). Un système d’IA à haut risque mis sur le marché ou mis en service avant la date qui le concerne n’est couvert que si sa conception subit ensuite d’importantes modifications. En tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer au plus tard le 2 août 2030 (article 111(2)).
À lire ensuite : gestion des risques, contrôle humain, annexe I et échéances
Article 9, gestion des risques pour l’IA dans la santé — EU AI Act
Gestion des risques pour l’IA dans la santé.
Article 14, contrôle humain pour l’IA dans la santé — EU AI Act
Contrôle humain pour l’IA dans la santé.
Systèmes d'IA à haut risque de l'annexe I : la voie de la sécurité des produits
Quelles législations sur les produits rendent une IA à haut risque, et en quoi la section A et la section B diffèrent.
Règlement IA : calendrier des échéances de 2024 à 2030
Toutes les dates d’application du règlement, de 2024 à 2030.
Scanara prépare des preuves à partir de vos dépôts
Scanara lit vos dépôts GitHub connectés et exécute des analyses à base de règles pour repérer les schémas courants d'IA et d'apprentissage automatique. Il peut manquer du code non standard. Par ailleurs, il génère des projets de documentation à partir de modèles et de vos réponses aux évaluations, comme preuves pour votre travail de conformité. Vous décidez de la classification.