Article 13 pour les systèmes autonomes : transparence et notice d’utilisation

L’article 13 fixe des obligations pour le fournisseur à l’égard du déployeur. Il n’impose ni de publier des informations ni d’expliquer une décision à une personne concernée.

• art. 13(1)
  Une transparence qui permet aux déployeurs d’interpréter les sorties

  Les systèmes d’IA à haut risque doivent être conçus et développés de manière que leur fonctionnement soit suffisamment transparent pour permettre aux déployeurs d’interpréter les sorties et de les utiliser de manière appropriée. Un type et un niveau adéquats de transparence doivent être garantis, afin que le fournisseur et le déployeur puissent respecter leurs obligations de la section 3.

• art. 13(2)
  Notice d’utilisation

  Les systèmes à haut risque doivent être accompagnés d’une notice d’utilisation dans un format numérique approprié ou autre. Elle doit contenir des informations concises, complètes, exactes et claires, pertinentes, accessibles et compréhensibles pour les déployeurs.

• art. 13(3)(a), (b)
  Contenu minimal : fournisseur, performance et limites

  La notice doit contenir au moins l’identité et les coordonnées du fournisseur, ainsi que les caractéristiques, les capacités et les limites de performance du système. Cela comprend sa finalité prévue. Cela comprend le niveau d’exactitude (y compris les indicateurs utilisés), de robustesse et de cybersécurité qui a servi de référence pour les tests et la validation du système et qui peut être attendu. Cela comprend aussi les circonstances connues qui peuvent l’influencer, et les circonstances connues ou prévisibles susceptibles d’entraîner des risques pour la santé, la sécurité ou les droits fondamentaux. Le cas échéant, elle comprend aussi les capacités techniques d’expliquer les sorties, la performance pour des personnes ou groupes de personnes spécifiques, les spécifications relatives aux données d’entrée et les informations permettant aux déployeurs d’interpréter les sorties.

• art. 13(3)(c)–(f)
  Modifications, contrôle, ressources et journaux

  La notice doit aussi indiquer les modifications prédéterminées par le fournisseur lors de l’évaluation initiale de la conformité, le cas échéant, et les mesures de contrôle humain prévues à l’article 14. Elle doit indiquer les ressources informatiques et matérielles nécessaires, la durée de vie attendue et les mesures de maintenance, y compris les mises à jour logicielles. Le cas échéant, elle décrit les mécanismes qui permettent aux déployeurs de collecter, stocker et interpréter correctement les journaux conformément à l’article 12.

L’article 13 ne s’applique qu’aux systèmes d’IA à haut risque. Les lignes ci-dessous montrent quelle IA dans les véhicules, les aéronefs sans équipage, les robots et les machines est visée, et où l’article 13 ne s’applique pas.

• Les systèmes autonomes ne forment pas une catégorie du règlement

  Le règlement ne prévoit pas de catégorie pour les systèmes autonomes. Sa définition du système d’IA mentionne « différents niveaux d’autonomie » (article 3, point 1)), et l’article 14, paragraphe 3, un « niveau d’autonomie ». Le règlement ne nomme ni véhicule autonome, ni drone, ni robot. Ce site emploie « systèmes autonomes » pour l’IA dans les véhicules, les aéronefs sans équipage, les robots et les machines. Les règles applicables dépendent de la législation de l’Union relative aux produits qui couvre le produit. Les lignes suivantes présentent trois façons dont un système d’IA peut être à haut risque : par l’annexe I, section B, par l’annexe I, section A, et par l’annexe III, point 2. D’autres dispositions peuvent également s’appliquer, par exemple l’article 4 (maîtrise de l’IA), l’article 5 (pratiques interdites), l’article 50 (transparence), l’article 53 (modèles d’IA à usage général) et les autres points de l’annexe III.

• Produits de la section B : véhicules, aéronefs sans équipage, rail, équipements marins, machines

  L’annexe I, section B, énumère par exemple les véhicules à moteur (règlements (UE) 2018/858 et (UE) 2019/2144, points 18 et 19), les véhicules à deux ou trois roues et les quadricycles (point 14), les véhicules agricoles et forestiers (point 15), le système ferroviaire (point 17), les équipements marins (point 16), les aéronefs sans équipage et leurs moteurs, hélices, pièces et équipements de contrôle à distance relevant du règlement (UE) 2018/1139 (point 20) et les machines (règlement (UE) 2023/1230, point 21). Le règlement (UE) 2026/1744 a fait passer les machines de la section A à la section B. Pour les systèmes d’IA classés à haut risque au titre de l’article 6, paragraphe 1 et liés à de tels produits, seuls l’article 6, paragraphe 1, l’article 60 bis et les articles 102 à 112 s’appliquent. Les articles 57, 58 et 59 ne s’appliquent que dans la mesure où les exigences applicables aux systèmes d’IA à haut risque ont été intégrées dans cette législation d’harmonisation de l’Union (article 2, paragraphe 2). Les articles 9 à 15, 17, 26 et 99 ne figurent pas parmi les dispositions applicables. L’article 2, paragraphe 2, est limité aux systèmes d’IA classés à haut risque au titre de l’article 6, paragraphe 1 ; il ne restreint pas, par exemple, l’article 4 ou l’article 5. La page de présentation des systèmes autonomes indique ce qui atteint ces produits à la place.

• Produits de la section A : le chapitre III s’applique aux systèmes à haut risque

  L’annexe I, section A (points 2 à 12), couvre les jouets, les bateaux de plaisance, les ascenseurs, les appareils et systèmes de protection destinés à être utilisés en atmosphères explosibles, les équipements radio, les équipements sous pression, les installations à câbles, les équipements de protection individuelle, les appareils brûlant des combustibles gazeux, les dispositifs médicaux et les dispositifs médicaux de diagnostic in vitro. Un système d’IA est à haut risque au titre de l’article 6, paragraphe 1 lorsqu’il est destiné à être utilisé en tant que composant de sécurité d’un tel produit, ou est lui-même un tel produit, et que le produit doit faire l’objet d’une évaluation de la conformité par un tiers en vertu de cette législation. N’est pas considéré comme remplissant cette condition un produit qui doit faire l’objet d’une évaluation de la conformité par un tiers uniquement en raison de risques autres que les risques pour la santé et la sécurité, en particulier les risques liés à la distribution du spectre radioélectrique ou aux interférences électromagnétiques qui n’affectent pas la santé et la sécurité (article 6, paragraphe 1 quater). Les exigences pour ces systèmes s’appliquent à partir du 2 août 2028 (article 113, point c) ii)). L’article 2, paragraphe 13, permet de limiter l’application des exigences ou obligations spécifiques des articles 9 à 15 et 17 à 25, lorsque et dans la mesure où la législation de la section A établit des exigences prévoyant un niveau de protection équivalent ou supérieur et où la limitation ne réduit pas le niveau global de protection. La Commission adopte des actes délégués à ce sujet au plus tard le 2 août 2027.

• Annexe III, point 2 : trafic routier, fourniture de services d’utilité publique et infrastructures numériques

  L’annexe III, point 2, vise les systèmes d’IA destinés à être utilisés en tant que composants de sécurité dans la gestion et l’exploitation d’infrastructures numériques critiques, du trafic routier, ou dans la fourniture d’eau, de gaz, de chauffage ou d’électricité. Le texte de l’annexe III ne nomme ni véhicule, ni aéronef, ni drone, ni robot. Savoir si un système donné est un composant de sécurité dans l’un de ces domaines relève d’un juriste. Les exigences pour ces usages de l’annexe III s’appliquent à partir du 2 décembre 2027 (article 113, point c) i)).

• L’article 6, paragraphe 3, peut sortir un système de l’annexe III

  Un système relevant du point 2 est à haut risque au titre de l’article 6, paragraphe 2. Au titre de l’article 6, paragraphe 3, il n’est pas à haut risque s’il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux. Cela inclut de ne pas avoir d’incidence significative sur le résultat de la prise de décision. Le règlement applique cette exception lorsqu’une des conditions suivantes est remplie (article 6, paragraphe 3, points a) à d)). Le système est destiné à accomplir une tâche procédurale étroite. Ou il est destiné à améliorer le résultat d’une activité humaine préalablement réalisée. Ou il est destiné à détecter les constantes en matière de prise de décision ou les écarts par rapport aux constantes habituelles antérieures et n’est pas destiné à se substituer à l’évaluation humaine préalablement réalisée, ni à influencer celle-ci, sans examen humain approprié. Ou il est destiné à exécuter une tâche préparatoire en vue d’une évaluation pertinente aux fins des cas d’utilisation visés à l’annexe III. Savoir comment ces conditions se combinent avec le critère du risque important relève d’un juriste. Le système est toujours à haut risque lorsqu’il effectue un profilage de personnes physiques. Le profilage est défini à l’article 4, point 4), du RGPD (article 3, point 52)). Le fournisseur qui invoque l’exception documente son évaluation avant la mise sur le marché ou la mise en service du système. Il doit aussi enregistrer le système (article 6, paragraphe 4, article 49, paragraphe 2).

• Seuls les composants de sécurité sont visés

  Un composant de sécurité est un composant d’un produit ou d’un système d’IA qui remplit une fonction de sécurité pour ce produit ou ce système d’IA, ou dont la défaillance ou le dysfonctionnement met en danger la santé et la sécurité des personnes ou des biens. Un composant remplit une fonction de sécurité lorsque sa finalité prévue est de prévenir ou d’atténuer les risques pour la santé et la sécurité des personnes ou des biens (article 3, point 14)). Les systèmes d’IA qui sont uniquement utilisés pour des aspects non liés à la sécurité en ce qui concerne l’assistance aux utilisateurs, l’optimisation des performances, l’efficacité des services, l’automatisation, la commodité ou le contrôle de la qualité ne sont pas considérés comme des composants de sécurité (article 6, paragraphe 1 bis). Les systèmes d’IA dont la défaillance ou le dysfonctionnement mettrait en danger la santé et la sécurité sont considérés comme des composants de sécurité (article 6, paragraphe 1 ter). Savoir si une fonction donnée de contrôle, de navigation ou de confort est un composant de sécurité relève d’un juriste.

• Fournisseur et déployeur

  Le fournisseur développe un système d’IA, ou le fait développer, et le met sur le marché ou le met en service sous son propre nom ou sa propre marque (article 3, point 3)). La mise en service inclut la fourniture pour usage propre du fournisseur (article 3, point 11)). Pour un composant de sécurité d’un produit de la section A, le fabricant du produit est le fournisseur lorsque le système est mis sur le marché avec le produit sous le nom ou la marque du fabricant, ou est mis en service sous ce nom ou cette marque après la mise sur le marché du produit (article 25, paragraphe 3). Un exploitant de flotte, un exploitant d’installation ou une autorité routière qui utilise un système sous son autorité est un déployeur (article 3, point 4)). Un déployeur devient fournisseur dans trois cas. Il appose son nom ou sa marque sur un système à haut risque déjà mis sur le marché, sans préjudice des dispositions contractuelles prévoyant une autre répartition des obligations. Il y apporte une modification substantielle qui le laisse à haut risque. Ou il modifie la finalité prévue d’un système qui n’était pas à haut risque, de sorte qu’il le devienne (article 25, paragraphe 1). Le fournisseur qui a initialement mis le système sur le marché ou en service n’est alors plus considéré comme le fournisseur de ce système spécifique, et coopère étroitement avec le nouveau fournisseur (article 25, paragraphe 2). Cela ne s’applique pas lorsque le fournisseur initial a clairement précisé que son système ne doit pas être transformé en système d’IA à haut risque.

• L’article 86 ne vise pas le point 2

  L’article 86, paragraphe 1, donne à la personne concernée un droit à l’explication d’une décision prise par le déployeur sur la base des sorties d’un système à haut risque de l’annexe III, « à l’exception des systèmes énumérés au point 2 ». Un déployeur d’un système du point 2 n’y est donc pas tenu. Les déployeurs de systèmes à haut risque visés à l’annexe III qui prennent ou aident à prendre des décisions concernant des personnes physiques doivent informer celles-ci qu’elles sont soumises à l’utilisation du système (article 26, paragraphe 11).

• Dates

  Section A : les exigences du chapitre III, sections 1 à 3, s’appliquent aux systèmes d’IA classés à haut risque au titre de l’article 6, paragraphe 1, à partir du 2 août 2028 (article 113, point c) ii)). Annexe III, point 2 : à partir du 2 décembre 2027 (point c) i)). Section B : les articles 9 à 15 n’ont pas de date, car ils ne s’appliquent pas (article 2, paragraphe 2) ; les articles 102 à 110 s’appliquent à partir du 27 juillet 2026 (point d)). Un système mis sur le marché ou mis en service avant la date d’application n’est couvert que si sa conception subit ensuite d’importantes modifications. En tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer au plus tard le 2 août 2030 (article 111, paragraphe 2).

• Amendes

  Les fournisseurs doivent veiller à ce que leurs systèmes à haut risque respectent les exigences de la section 2 du chapitre III, qui comprend les articles 9 à 15 (article 16, point a)). Un manquement aux obligations du fournisseur de l’article 16 ou à celles du déployeur de l’article 26 peut être sanctionné d’une amende. Elle peut atteindre 15 millions d’EUR ou, pour une entreprise, 3 % de son chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu (article 99, paragraphe 4, points a) et e)). Pour les PME, y compris les jeunes pousses, chaque amende est plafonnée au plus faible des deux montants (article 99, paragraphe 6). Le même plafond vaut pour les petites ETI (« petites entreprises à moyenne capitalisation » dans le règlement ; article 3, point 14 ter), article 99, paragraphe 6 bis). Chaque État membre établit les règles déterminant dans quelle mesure des amendes administratives peuvent être imposées aux autorités et organismes publics établis sur son territoire (article 99, paragraphe 8). Pour les produits de la section B, l’article 99 ne figure pas parmi les dispositions que l’article 2, paragraphe 2, déclare applicables.

• Portée et limites du règlement

  Le règlement s’applique aux fournisseurs et aux déployeurs qui ont leur lieu d’établissement ou sont situés dans un pays tiers, lorsque les sorties produites par le système d’IA sont utilisées dans l’Union (article 2, paragraphe 1, point c)). Il ne s’applique pas aux domaines qui ne relèvent pas du champ d’application du droit de l’Union et ne porte pas atteinte aux compétences des États membres en matière de sécurité nationale (article 2, paragraphe 3). Il ne s’applique pas aux systèmes d’IA lorsque et dans la mesure où ils sont mis sur le marché, mis en service ou utilisés, avec ou sans modification, exclusivement à des fins militaires, de défense ou de sécurité nationale (article 2, paragraphe 3). Le règlement ne s’applique pas aux systèmes d’IA ou aux modèles d’IA spécifiquement développés et mis en service uniquement à des fins de recherche et développement scientifiques, ni à leurs sorties (article 2, paragraphe 6). Il ne s’applique pas aux activités de recherche, d’essai et de développement avant la mise sur le marché ou la mise en service d’un système. Les essais en conditions réelles ne sont pas couverts par cette exclusion (article 2, paragraphe 8). Les systèmes d’IA publiés dans le cadre de licences libres et ouvertes sont hors du champ du règlement. Cette exclusion ne joue pas s’ils sont mis sur le marché ou mis en service en tant que systèmes d’IA à haut risque, ou s’ils relèvent de l’article 5 ou de l’article 50 (article 2, paragraphe 12). Le règlement ne s’applique pas aux obligations des déployeurs qui sont des personnes physiques utilisant des systèmes d’IA dans le cadre d’une activité strictement personnelle à caractère non professionnel (article 2, paragraphe 10).

• Pas de format pour la notice d’utilisation, pas d’obligation d’informer les passagers

  Le règlement ne nomme aucun format, modèle ni libellé pour la notice d’utilisation. Le fournisseur décide comment présenter les éléments exigés par l’article 13, paragraphe 3. L’article 13 s’adresse aux déployeurs ; il n’impose aucune obligation d’information envers les passagers ou les usagers de la route. Le règlement lui-même ne nomme aucune norme harmonisée. Les systèmes à haut risque conformes à des normes harmonisées dont les références sont publiées au Journal officiel sont présumés conformes aux exigences de la section 2, dans la mesure où ces normes les couvrent (article 40, paragraphe 1). La Commission élabore des lignes directrices sur l’application pratique des exigences et obligations des articles 8 à 15, 25 et 26 (article 96, paragraphe 1, point a)) et sur la relation entre le règlement et la législation de l’annexe I (point e)).

• Exemple : les conditions d’exploitation dans la notice d’utilisation

  Exemple, sans valeur d’exigence du règlement : la notice d’utilisation d’un composant de sécurité pourrait indiquer les conditions d’exploitation dans lesquelles son exactitude a été mesurée et celles dans lesquelles sa sortie ne devrait pas être prise pour fiable. L’article 13, paragraphe 3, point b) ii) et iii), exige le niveau d’exactitude testé et les circonstances qui peuvent l’affecter ou entraîner des risques.

• Exemple : décrire la procédure d’arrêt

  Exemple, sans valeur d’exigence du règlement : la notice d’utilisation pourrait décrire la procédure d’arrêt et l’état que le système atteint lorsqu’il s’arrête. L’article 13, paragraphe 3, point d), exige les mesures de contrôle humain prévues à l’article 14.

• Article 13 règlement IA : transparence et notice d’utilisation

  L’article 13 pour tous les secteurs : exigences, dates et amendes.

• Règlement IA systèmes autonomes : conformité

  Vue d’ensemble des systèmes autonomes : les trois façons dont un système peut être à haut risque pour les véhicules, les aéronefs sans équipage, les robots et les machines, et les autres dispositions qui peuvent s’appliquer.

• Article 14 pour les systèmes autonomes : contrôle humain

  Les systèmes autonomes et l’article 14 : contrôle par des personnes physiques et ce que le règlement n’exige pas.

• Systèmes d'IA à haut risque de l'annexe I : la voie de la sécurité des produits

  Annexe I, sections A et B : quels produits, quelles règles s’appliquent et ce qui a changé pour les machines.