Article 14 règlement IA : contrôle humain et bouton d’arrêt
L’article 14 exige que les systèmes d’IA à haut risque permettent un contrôle humain effectif. Ce guide couvre les capacités nécessaires, le bouton d’arrêt et les schémas de contrôle courants.
Les fournisseurs de systèmes d’IA à haut risque doivent les concevoir de façon que des personnes puissent les contrôler efficacement pendant leur utilisation (article 14).
Les personnes chargées du contrôle doivent pouvoir, de manière appropriée et proportionnée, comprendre le système, le surveiller, écarter sa sortie et l’arrêter. Cela vise les systèmes mis sur le marché ou mis en service dans l’UE. Cela s’applique à partir du 2 décembre 2027 (annexe III) et du 2 août 2028 (annexe I). Les amendes peuvent atteindre 15 millions d’EUR ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu (article 99(4)). Prochaine étape : dressez la liste des commandes que votre système donne à ces personnes.
Les personnes chargées du contrôle doivent pouvoir comprendre, surveiller, écarter et arrêter le système
L’article 14(4) énumère cinq capacités que le système doit permettre, de manière appropriée et proportionnée. Le fournisseur intègre certaines mesures au système et en définit d’autres, que le déployeur met en œuvre (article 14(3)).
Comprendre et surveiller
Les personnes chargées du contrôle peuvent comprendre correctement les capacités et les limites du système et surveiller son fonctionnement, y compris pour détecter et traiter les anomalies, les dysfonctionnements et les performances inattendues (article 14(4), point a)).
Rester conscient et interpréter correctement
Elles restent conscientes du biais d’automatisation, la tendance à se fier trop à la sortie du système, et peuvent interpréter correctement la sortie (article 14(4), points b) et c)).
Écarter et arrêter
Elles peuvent décider de ne pas utiliser le système, ou d’ignorer, de remplacer ou d’inverser sa sortie. Elles peuvent aussi intervenir dans le fonctionnement du système, ou l’interrompre au moyen d’un bouton d’arrêt ou d’une procédure similaire permettant au système de s’arrêter de manière sécurisée (article 14(4), points d) et e)).
Vérification par deux personnes pour l’identification biométrique à distance
Pour les systèmes de l’annexe III, point 1 a), le déployeur ne peut agir sur la base d’une identification qu’après vérification et confirmation distinctes par au moins deux personnes (article 14(5)). Elles doivent disposer des compétences, de la formation et de l’autorité nécessaires. Cette exigence ne s’applique pas à la répression, à la migration, aux contrôles aux frontières et à l’asile lorsque le droit de l’Union ou le droit national la juge disproportionnée.
Les personnes chargées du contrôle doivent pouvoir amener le système à un arrêt sûr
L’article 14(4), point e), exige un bouton d’arrêt ou une procédure similaire qui permet aux personnes chargées du contrôle d’interrompre le système et de l’arrêter de manière sécurisée. Le règlement ne prescrit pas comment ; les trois points ci-dessous sont des choix de conception.
Arrêt d’urgence
Prévoyez une commande qui arrête le système de manière sécurisée, et testez qu’elle fonctionne même pendant des erreurs du système. Une conception possible : ne plus accepter de nouvelles requêtes et laisser terminer celles en cours.
Mode de repli
Décidez de ce qui se passe après un arrêt : orienter les cas vers des vérificateurs humains, utiliser des valeurs par défaut fondées sur des règles ou suspendre entièrement. Documentez et testez le repli.
Journal des arrêts et des interventions
Consignez chaque arrêt et chaque intervention avec l’heure, l’opérateur, le motif et l’état du système. C’est un choix de conception qui vous donne une preuve du fonctionnement du contrôle.
Les mesures de contrôle doivent correspondre au risque, à l’autonomie et au contexte
L’article 14(3) exige des mesures de contrôle proportionnées aux risques, au niveau d’autonomie et au contexte d’utilisation du système. Les trois schémas ci-dessous sont des termes de conception courants, pas des termes du règlement.
Humain dans la boucle
Une personne approuve chaque décision avant qu’elle prenne effet. Ce schéma convient aux décisions aux conséquences graves.
Humain sur la boucle
Le système fonctionne seul ; une personne le surveille et peut intervenir à tout moment.
Humain aux commandes
Une personne fixe les limites et les conditions d’utilisation et peut écarter toute décision ou arrêter le système.
L’article 14 ne s’applique qu’aux systèmes d’IA à haut risque
Un système est à haut risque s’il relève d’un domaine de l’annexe III, sauf si une exemption de l’article 6(3) s’applique. Un système qui effectue du profilage de personnes physiques est toujours à haut risque. Il l’est aussi s’il est un produit de l’annexe I exigeant une évaluation de la conformité par un tiers, ou son composant de sécurité (article 6). Les fournisseurs sont couverts lorsqu’ils mettent un système sur le marché de l’UE ou le mettent en service dans l’UE, où qu’ils soient établis (article 2(1), point a)). Les fournisseurs et déployeurs établis dans un pays tiers sont aussi couverts lorsque les sorties du système sont utilisées dans l’UE (article 2(1), point c)). Les systèmes à haut risque liés à des produits relevant des législations de l’annexe I, section B, sont exclus de l’article 14 (article 2(2)). Pour les produits de l’annexe I, section A, certaines exigences peuvent être limitées (article 2(13)). Cela concerne les articles 9 à 15 et 17 à 25, lorsque la législation sectorielle offre un niveau de protection équivalent ou supérieur. Des actes délégués attendus d’ici le 2 août 2027 préciseront lesquelles. Le règlement exclut les usages militaires, de défense et de sécurité nationale, ainsi que les systèmes développés uniquement pour la recherche scientifique (article 2(3) et (6)). Il exclut aussi la recherche et les essais avant la mise sur le marché (article 2(8)). Les systèmes déjà mis sur le marché ou en service avant la date d’application ne sont couverts qu’après des modifications substantielles de leur conception. En tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer au plus tard le 2 août 2030 (article 111(2)).
Questions fréquentes : personnes chargées du contrôle, tableaux de bord, responsabilité et amendes
Qui peut être chargé du contrôle humain ?
Une personne physique disposant des compétences, de la formation et de l’autorité nécessaires, ainsi que du soutien requis. Le déployeur confie le contrôle à de telles personnes (article 26(2)), et le système doit leur permettre de le comprendre, d’écarter sa sortie et de l’arrêter (article 14(4)).
Un tableau de bord suffit-il ?
Non. Un tableau de bord soutient la surveillance (article 14(4), point a)). Mais les personnes chargées du contrôle doivent aussi pouvoir écarter ou inverser la sortie et arrêter le système (article 14(4), points d) et e)). Ajoutez des commandes à côté du tableau de bord.
Qui est responsable, le fournisseur ou le déployeur ?
Les deux. Le fournisseur définit les mesures de contrôle avant la mise sur le marché ou la mise en service du système. Il les intègre lorsque c’est techniquement possible, les définit pour que le déployeur les mette en œuvre, ou fait les deux (article 14(3)). Le déployeur confie le contrôle à des personnes compétentes et utilise le système conformément à la notice d’utilisation (article 26(1) et (2)).
Quelles sont les amendes, et le plafond est-il plus bas pour les PME ?
Les amendes atteignent jusqu’à 15 millions d’EUR ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu (article 99(4)). Elles visent les fournisseurs (article 16) et les déployeurs (article 26). Pour les PME, y compris les jeunes pousses, et les petites ETI, le plafond est le plus faible des deux montants (article 99(6) et (6 bis)). Le règlement les appelle « petites entreprises à moyenne capitalisation ». Les États membres fixent les règles relatives aux sanctions (article 99(1)).
À lire ensuite : gestion des risques, enregistrement et obligations du déployeur
Article 9 : gestion des risques
Le contrôle vise à prévenir ou à réduire au minimum les risques pour la santé, la sécurité et les droits fondamentaux, en particulier lorsqu’ils persistent malgré les autres exigences (article 14(2)).
Article 12 : enregistrement
Les journaux soutiennent la surveillance du système ; les systèmes d’identification biométrique à distance doivent journaliser qui a vérifié les résultats.
Article 26 : obligations des déployeurs
Les déployeurs confient le contrôle à des personnes compétentes et utilisent le système conformément à sa notice d’utilisation.
Scanara prépare des preuves à partir de vos dépôts
Scanara lit vos dépôts GitHub connectés et exécute des analyses à base de règles pour repérer les schémas courants d'IA et d'apprentissage automatique. Il peut manquer du code non standard. Par ailleurs, il génère des projets de documentation à partir de modèles et de vos réponses aux évaluations, comme preuves pour votre travail de conformité. Vous décidez de la classification.