Article 9 pour l’IA biométrique : gestion des risques

L’article 9 fixe des obligations pour le fournisseur d’un système d’IA à haut risque. Les lignes suivent les paragraphes de l’article.

• art. 9(1)
  Établir, mettre en œuvre, documenter et tenir à jour

  Un système de gestion des risques doit être établi, mis en œuvre, documenté et tenu à jour pour les systèmes d’IA à haut risque.

• art. 9(2)
  Un processus continu et itératif en quatre étapes

  Le système de gestion des risques est un processus itératif continu planifié et mis en œuvre tout au long du cycle de vie du système, qui nécessite un examen et une mise à jour systématiques et réguliers. Il comprend quatre étapes. D’abord, identifier et analyser les risques connus et raisonnablement prévisibles pour la santé, la sécurité ou les droits fondamentaux lorsque le système est utilisé conformément à sa finalité prévue. Ensuite, estimer et évaluer les risques susceptibles d’apparaître lorsque le système est utilisé conformément à sa finalité prévue et dans des conditions de mauvaise utilisation raisonnablement prévisible. Puis évaluer d’autres risques éventuels, sur la base de données issues du système de surveillance après commercialisation (article 72). Enfin, adopter des mesures appropriées et ciblées de gestion des risques pour traiter les risques recensés à la première étape.

• art. 9(3)
  Seulement les risques que la conception ou l’information peuvent atténuer

  Les risques visés à l’article 9 ne concernent que ceux qui peuvent être raisonnablement atténués ou supprimés par le développement ou la conception du système d’IA à haut risque, ou par la fourniture d’informations techniques adéquates.

• art. 9(5)
  Le risque résiduel doit être jugé acceptable

  Le risque résiduel pertinent associé à chaque danger, ainsi que le risque résiduel global du système, doivent être jugés acceptables. Les mesures doivent garantir ce qui suit. D’abord, l’élimination ou la réduction des risques recensés, dans la mesure où cela est techniquement possible, par une conception et un développement adéquats. Ensuite, s’il y a lieu, la mise en place de mesures d’atténuation et de contrôle adéquates pour les risques qui ne peuvent être éliminés. Enfin, la fourniture des informations requises en vertu de l’article 13 et, s’il y a lieu, d’une formation aux déployeurs. Il faut tenir dûment compte des connaissances techniques, de l’expérience, de l’éducation et de la formation que l’on peut attendre du déployeur, ainsi que du contexte dans lequel le système est présumé être utilisé.

• art. 9(6)–(8)
  Des essais selon des indicateurs définis avant la mise sur le marché

  Les systèmes doivent être testés afin de déterminer les mesures de gestion des risques les plus appropriées et ciblées. Les essais doivent garantir qu’ils fonctionnent de manière cohérente pour la finalité prévue et qu’ils respectent les exigences de la section 2 du chapitre III. Les procédures d’essai peuvent inclure des essais en conditions réelles conformément à l’article 60. Les essais sont effectués, selon le cas, à tout moment du processus de développement et, en tout état de cause, avant la mise sur le marché ou la mise en service. Ils sont réalisés par rapport à des indicateurs préalablement définis et à des seuils probabilistes adaptés à la finalité prévue.

• art. 9(9)
  Les personnes de moins de 18 ans et d’autres groupes vulnérables

  Lors de la mise en œuvre du système de gestion des risques, les fournisseurs examinent si, eu égard à sa finalité prévue, le système est susceptible d’avoir une incidence négative sur les personnes de moins de 18 ans et, selon le cas, sur d’autres groupes vulnérables.

L’article 9 ne lie que les systèmes d’IA à haut risque. Les lignes ci-dessous montrent où l’IA biométrique est à haut risque, quelles pratiques sont interdites et qui est lié.

• L’annexe III comporte un domaine « Biométrie », limité à trois types de systèmes

  L’annexe III comporte un domaine « Biométrie », dans la mesure où son utilisation est autorisée par le droit de l’Union ou le droit national applicable. Ce domaine se limite aux points 1 a) à 1 c) ; le règlement ne connaît pas de régime plus large de la biométrie. Le mot « biométrie » de ce site désigne ces systèmes. Le point 1 a) couvre les systèmes d’identification biométrique à distance. Cela n’inclut pas les systèmes d’IA destinés à être utilisés à des fins de vérification biométrique dont la seule finalité est de confirmer qu’une personne physique spécifique est la personne qu’elle prétend être. Le point 1 b) couvre les systèmes d’IA destinés à être utilisés à des fins de catégorisation biométrique, en fonction d’attributs ou de caractéristiques sensibles ou protégés, sur la base de la déduction de ces attributs ou de ces caractéristiques. Le point 1 c) couvre les systèmes d’IA destinés à être utilisés pour la reconnaissance des émotions. Un système d’identification biométrique à distance identifie des personnes physiques sans leur participation active, généralement à distance, en comparant les données biométriques d’une personne avec celles d’une base de données de référence (article 3, point 41)). La vérification biométrique est la vérification automatisée, un à un, y compris l’authentification, de l’identité de personnes physiques par comparaison de leurs données biométriques avec des données biométriques préalablement fournies (article 3, point 36)). Un système biométrique que le point 1 ne mentionne pas n’est à haut risque que si un autre point de l’annexe III ou l’annexe I le couvre.

• L’article 5 interdit certaines pratiques biométriques

  Certaines pratiques biométriques sont interdites. L’article 5, paragraphe 1 interdit notamment : les systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale par le moissonnage non ciblé d’images faciales provenant de l’internet ou de la vidéosurveillance (point e)) ; les systèmes d’IA qui infèrent les émotions d’une personne physique sur le lieu de travail et dans les établissements d’enseignement, sauf lorsque l’utilisation est destinée à des raisons médicales ou de sécurité (point f)) ; les systèmes de catégorisation biométrique qui catégorisent individuellement les personnes physiques sur la base de leurs données biométriques afin d’arriver à des déductions ou des inférences concernant leur race, leurs opinions politiques, leur affiliation à une organisation syndicale, leurs convictions religieuses ou philosophiques, leur vie sexuelle ou leur orientation sexuelle (point g) ; l’interdiction ne couvre pas l’étiquetage ou le filtrage d’ensembles de données biométriques acquis légalement, tels que des images, fondés sur des données biométriques, ni la catégorisation de données biométriques dans le domaine répressif) ; et l’utilisation de systèmes d’identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives, sauf si et dans la mesure où elle est strictement nécessaire eu égard à l’un des trois objectifs (point h)). Ces interdictions s’appliquent depuis le 2 février 2025 (article 113, point a)). Les amendes peuvent atteindre 35 millions d’EUR ou, pour une entreprise, 7 % de son chiffre d’affaires mondial annuel total, le plus élevé des deux (article 99, paragraphe 3). La page du secteur biométrie donne les détails.

• L’article 6, paragraphe 3, peut sortir un système de l’annexe III

  Un système relevant de l’annexe III, point 1, est à haut risque au titre de l’article 6, paragraphe 2. Au titre de l’article 6, paragraphe 3, il n’est pas à haut risque s’il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux. Cela inclut de ne pas avoir d’incidence significative sur le résultat de la prise de décision. Le règlement applique cette exception lorsqu’une des conditions suivantes est remplie (article 6, paragraphe 3, points a) à d)). Le système est destiné à accomplir une tâche procédurale étroite. Ou il est destiné à améliorer le résultat d’une activité humaine préalablement réalisée. Ou il est destiné à détecter les constantes en matière de prise de décision ou les écarts par rapport aux constantes habituelles antérieures et n’est pas destiné à se substituer à l’évaluation humaine préalablement réalisée, ni à influencer celle-ci, sans examen humain approprié. Ou il est destiné à exécuter une tâche préparatoire en vue d’une évaluation pertinente aux fins des cas d’utilisation visés à l’annexe III. Savoir comment ces conditions se combinent avec le critère du risque important relève d’un juriste. Le système est toujours à haut risque lorsqu’il effectue un profilage de personnes physiques. Le profilage est défini à l’article 4, point 4), du RGPD (article 3, point 52)). Savoir si un système biométrique donné en effectue un relève aussi d’un juriste. Le fournisseur qui invoque l’exception documente son évaluation avant la mise sur le marché ou la mise en service du système. Il doit aussi enregistrer le système (article 6, paragraphe 4, article 49, paragraphe 2). Indépendamment de cela, le point 1 a) exclut lui-même les systèmes d’IA destinés à être utilisés à des fins de vérification biométrique dont la seule finalité est de confirmer qu’une personne physique spécifique est la personne qu’elle prétend être.

• Fournisseur et déployeur

  Le fournisseur développe un système d’IA, ou le fait développer, et le met sur le marché ou le met en service sous son propre nom ou sa propre marque (article 3, point 3)). La mise en service inclut la fourniture pour usage propre du fournisseur (article 3, point 11)). Une entreprise ou une autorité publique qui développe un système biométrique et le met en service sous son propre nom est donc un fournisseur. Une entreprise ou une autorité publique qui utilise un système sous son autorité est un déployeur (article 3, point 4)). Un déployeur devient fournisseur dans trois cas. Il appose son nom ou sa marque sur un système à haut risque déjà mis sur le marché, sans préjudice des dispositions contractuelles prévoyant une autre répartition des obligations. Il y apporte une modification substantielle qui le laisse à haut risque. Ou il modifie la finalité prévue d’un système qui n’était pas à haut risque, de sorte qu’il le devienne (article 25, paragraphe 1). Le fournisseur qui a initialement mis le système sur le marché ou en service n’est alors plus considéré comme le fournisseur de ce système spécifique, et coopère étroitement avec le nouveau fournisseur (article 25, paragraphe 2). Cela ne s’applique pas lorsque le fournisseur initial a clairement précisé que son système ne doit pas être transformé en système d’IA à haut risque.

• Dates

  Les exigences pour ces usages de l’annexe III s’appliquent à partir du 2 décembre 2027 (article 113, point c) i)). Un système mis sur le marché ou mis en service avant cette date n’est couvert que si sa conception subit ensuite d’importantes modifications. En tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer au plus tard le 2 août 2030 (article 111, paragraphe 2). Cette règle ne couvre pas les systèmes visés à l’article 111, paragraphe 1.

• Amendes

  Les fournisseurs doivent veiller à ce que leurs systèmes à haut risque respectent les exigences de la section 2 du chapitre III, qui comprend les articles 9 à 15 (article 16, point a)). Un manquement aux obligations du fournisseur de l’article 16 ou à celles du déployeur de l’article 26 peut être sanctionné d’une amende. Elle peut atteindre 15 millions d’EUR ou, pour une entreprise, 3 % de son chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu (article 99, paragraphe 4, points a) et e)). Pour les PME, y compris les jeunes pousses, chaque amende est plafonnée au plus faible des deux montants (article 99, paragraphe 6). Le même plafond vaut pour les petites ETI (« petites entreprises à moyenne capitalisation » dans le règlement ; article 3, point 14 ter), article 99, paragraphe 6 bis). Chaque État membre établit les règles déterminant dans quelle mesure des amendes administratives peuvent être imposées aux autorités et organismes publics établis sur son territoire (article 99, paragraphe 8).

• Portée et limites du règlement

  Le règlement s’applique aux fournisseurs et aux déployeurs qui ont leur lieu d’établissement ou sont situés dans un pays tiers, lorsque les sorties produites par le système d’IA sont utilisées dans l’Union (article 2, paragraphe 1, point c)). Il ne s’applique pas aux domaines qui ne relèvent pas du champ d’application du droit de l’Union et ne porte pas atteinte aux compétences des États membres en matière de sécurité nationale (article 2, paragraphe 3). Le règlement ne s’applique pas aux systèmes d’IA ou aux modèles d’IA, ni à leurs sorties, spécifiquement développés et mis en service uniquement à des fins de recherche et développement scientifiques (article 2, paragraphe 6). Il ne s’applique pas aux activités de recherche, d’essai et de développement avant la mise sur le marché ou la mise en service d’un système. Les essais en conditions réelles ne sont pas couverts par cette exclusion (article 2, paragraphe 8). Les systèmes d’IA publiés dans le cadre de licences libres et ouvertes sont hors du champ du règlement. Cette exclusion ne joue pas s’ils sont mis sur le marché ou mis en service en tant que systèmes d’IA à haut risque, ou s’ils relèvent de l’article 5 ou de l’article 50 (article 2, paragraphe 12). Il ne s’applique pas aux systèmes d’IA lorsque et dans la mesure où ils sont mis sur le marché, mis en service ou utilisés, avec ou sans modification, exclusivement à des fins militaires, de défense ou de sécurité nationale, quel que soit le type d’entité exerçant ces activités (article 2, paragraphe 3). Il ne s’applique ni aux autorités publiques d’un pays tiers ni aux organisations internationales relevant de son champ d’application en vertu de l’article 2, paragraphe 1, lorsqu’elles utilisent des systèmes d’IA dans le cadre de la coopération internationale ou d’accords internationaux de coopération des services répressifs et judiciaires avec l’Union ou avec un ou plusieurs États membres, à condition que ce pays tiers ou cette organisation internationale fournisse des garanties adéquates en ce qui concerne la protection des droits fondamentaux et des libertés des personnes (article 2, paragraphe 4). Il ne s’applique pas aux obligations des déployeurs qui sont des personnes physiques utilisant des systèmes d’IA dans le cadre d’une activité strictement personnelle à caractère non professionnel (article 2, paragraphe 10). Le droit de l’Union en matière de protection des données à caractère personnel, de respect de la vie privée et de confidentialité des communications s’applique aux données à caractère personnel traitées en lien avec les droits et obligations énoncés dans le règlement. Sans préjudice de l’article 4 bis et de l’article 59, le règlement n’a pas d’incidence sur le règlement (UE) 2016/679, le règlement (UE) 2018/1725, la directive 2002/58/CE ni la directive (UE) 2016/680 (article 2, paragraphe 7).

• Aucune valeur ni méthode de risque propre à la biométrie

  L’article 9 ne nomme ni seuil de risque, ni valeur d’exactitude, ni méthode d’essai pour les systèmes biométriques. Les essais se font par rapport à des indicateurs et à des seuils probabilistes préalablement définis et adaptés à la finalité prévue (article 9, paragraphe 8). Le règlement lui-même ne nomme aucune norme. Les systèmes à haut risque conformes à des normes harmonisées dont les références sont publiées au Journal officiel sont présumés conformes aux exigences de la section 2, dans la mesure où ces normes les couvrent (article 40, paragraphe 1). La Commission élabore des lignes directrices sur l’application des exigences et obligations des articles 8 à 15, 25 et 26 (article 96, paragraphe 1, point a)).

• Exemple : des risques qu’un fournisseur pourrait recenser

  Exemple, sans valeur d’exigence du règlement : le fournisseur d’un système de comparaison de visages pourrait recenser les fausses correspondances et les correspondances manquées parmi les risques pour les droits fondamentaux, et les estimer pour la population visée par le système.

• Exemple : fixer les mesures d’essai à l’avance

  Exemple, sans valeur d’exigence du règlement : avant un essai, un fournisseur pourrait consigner les mesures de fausses correspondances et de correspondances manquées qu’il communiquera, ainsi que les seuils par rapport auxquels il testera. Le règlement exige seulement que les indicateurs et les seuils probabilistes soient définis à l’avance et adaptés à la finalité prévue.

• Article 9 : système de gestion des risques pour l'IA à haut risque

  L’article 9 pour tous les secteurs : exigences, dates et amendes.

• Règlement IA biométrie : guide de conformité

  Le panorama de la biométrie : ce que couvre le règlement, ce qu’il interdit et les règles propres à la biométrie.

• Article 10 pour l’IA biométrique : données et gouvernance des données

  L’IA biométrique et l’article 10 : gouvernance des données et règle de l’article 4 bis sur les catégories particulières de données.

• Annexe III en détail : les 8 catégories à haut risque

  Les huit domaines de l’annexe III, dont la biométrie.