Article 13 : transparence des systèmes autonomes — EU AI Act
Comment la transparence de l'article 13 de l'EU AI Act s'applique aux systèmes autonomes — divulgation de l'ODD, information des passagers, exploitants de flotte.
L'article 13 de l'EU AI Act exige que les systèmes d'IA à haut risque soient suffisamment transparents pour que les déployeurs puissent interpréter les résultats et les utiliser de manière appropriée. Pour les systèmes autonomes — véhicules autonomes, drones et machines autonomes — la transparence détermine si les opérateurs humains peuvent surveiller en toute sécurité les décisions pilotées par l'IA, intervenir et leur faire confiance dans des environnements critiques pour la sécurité. Au titre de l'Annexe III, section 2(a), les systèmes d'IA destinés à servir de composants de sécurité dans la gestion du trafic routier et l'exploitation de véhicules autonomes sont classés à haut risque.
Cette page explique comment les exigences de transparence de l'article 13 s'appliquent spécifiquement aux systèmes autonomes — des véhicules autonomes aux drones industriels — y compris la divulgation du domaine opérationnel, les instructions destinées aux exploitants de flotte, l'information des passagers et les violations au niveau du code que Scanara détecte dans les logiciels des systèmes autonomes.
Quels systèmes d'IA autonomes doivent être transparents ?
Véhicules autonomes (SAE L3-L5)
Les véhicules autonomes doivent divulguer les limites de leur domaine de conception opérationnel (ODD) aux passagers et aux exploitants de flotte. Les passagers doivent connaître les capacités et les limites du système — y compris les moments où l'IA peut demander une reprise en main humaine et le temps de transition prévu.
Drones autonomes et UAV
Les systèmes de détection et d'évitement (DAA) assistés par IA et la planification de vol autonome doivent fournir aux opérateurs des explications transparentes des décisions de navigation, en particulier lorsque l'IA passe outre les itinéraires planifiés ou déclenche des procédures d'urgence. L'EASA exige la transparence sur les limites des systèmes DAA assistés par IA.
Machines industrielles autonomes
Les robots d'entrepôt, les machines agricoles et les systèmes de production pilotés par IA doivent fournir aux opérateurs des informations claires sur la logique décisionnelle du système, ses limites de sécurité et les conditions dans lesquelles l'IA peut se comporter de manière imprévisible ou nécessiter une intervention humaine.
Systèmes maritimes et ferroviaires autonomes
Les systèmes de navigation par IA pour les navires autonomes et les opérations ferroviaires doivent être transparents sur les décisions de routage, la logique d'évitement des collisions et les limites opérationnelles. Les autorités de transport doivent recevoir des informations suffisantes pour évaluer l'aptitude de l'IA à être déployée dans des contextes opérationnels spécifiques.
Principales obligations de transparence pour les systèmes autonomes
L'article 13 exige des instructions d'utilisation permettant aux déployeurs d'interpréter les résultats de l'IA de manière appropriée. Pour les systèmes autonomes, cela signifie que les exploitants de flotte et les autorités de transport doivent comprendre les limites opérationnelles de l'IA, la justification de ses décisions et son comportement dans les cas limites — une transparence qui affecte directement la sécurité physique.
Le domaine de conception opérationnel doit être divulgué
Les instructions d'utilisation doivent définir clairement l'ODD — les conditions spécifiques dans lesquelles le système autonome est conçu pour fonctionner en toute sécurité. Cela inclut les conditions météorologiques, les types de routes, les plages de vitesse, les limites géographiques et les restrictions selon l'heure de la journée. L'exploitation en dehors de l'ODD documenté sans divulgation viole l'article 13.
Les déployeurs doivent comprendre les points d'intervention
L'article 13(1) exige que les déployeurs interprètent les résultats de manière appropriée. Pour les systèmes autonomes, cela signifie que les exploitants de flotte doivent comprendre quand et comment intervenir — y compris le calendrier des demandes de reprise en main, les comportements de repli et la réponse attendue du système lorsqu'il fonctionne à la limite de ses capacités.
Les passagers doivent connaître les capacités du système
Les passagers des véhicules autonomes doivent être informés des capacités opérationnelles et des limites du système. Cela inclut le niveau d'autonomie actuel, ce que l'IA peut et ne peut pas gérer, et ce qui est attendu du conducteur humain (le cas échéant). Les marquages d'identification des véhicules peuvent varier selon la juridiction.
Le comportement dans les cas limites doit être documenté
La documentation technique doit expliquer le comportement du système dans des conditions dégradées : défaillances de capteurs, conditions météorologiques défavorables, obstacles inhabituels et perte de connectivité réseau. L'article 13(3)(b)(i) exige la divulgation des limites et des conditions dans lesquelles le système peut présenter un dysfonctionnement — pour les systèmes autonomes, il s'agit de divulgations critiques pour la sécurité.
Chevauchements réglementaires
La transparence des systèmes autonomes recoupe les cadres de réception par type, les réglementations aériennes et les normes de sécurité. L'article 13 doit être coordonné avec les exigences existantes de transparence et de documentation propres à chaque secteur.
Règlement-cadre sur la réception par type (TAFR)
Le règlement-cadre de l'UE sur la réception par type exige une documentation technique détaillée pour la certification des véhicules autonomes, y compris le domaine de conception opérationnel, les données de validation de sécurité et la conception de l'interface homme-machine. Les exigences de l'article 13 de l'AI Act relatives aux instructions d'utilisation doivent être alignées sur la documentation du TAFR afin d'éviter des divulgations contradictoires ou redondantes.
Règlement général sur la sécurité (GSR)
Le GSR impose des systèmes avancés d'aide à la conduite et fixe des exigences quant à leur transparence pour les conducteurs. Les enregistreurs de données d'événement, la détection de somnolence du conducteur et l'assistance intelligente à la vitesse requièrent tous une information du conducteur. L'article 13 étend ces exigences de transparence au niveau du système d'IA, en exigeant la documentation des capacités, des limites et des performances.
Réglementations de l'EASA sur les opérations aériennes
L'Agence de l'Union européenne pour la sécurité aérienne réglemente l'IA dans l'aviation, y compris les opérations de drones autonomes. L'EASA exige la transparence sur les décisions de détection et d'évitement assistées par IA et leurs limites. L'article 13 ajoute des exigences de documentation au niveau du système concernant les capacités, la précision et la robustesse de l'IA, qui complètent le cadre de transparence opérationnelle de l'EASA.
ISO 21448 (SOTIF) — Sécurité de la fonctionnalité prévue
La norme ISO 21448 traite des risques de sécurité liés aux insuffisances fonctionnelles des systèmes autonomes, en exigeant l'identification et la documentation des conditions déclencheuses et des modes de défaillance. Les exigences de transparence de l'article 13 relatives à la divulgation des limites du système s'alignent étroitement sur la documentation SOTIF des scénarios dangereux connus et inconnus.
Violations courantes détectées par Scanara
Documentation des limites de l'ODD absente du résultat du système
Code de navigation autonome qui prend des décisions de routage ou de contrôle sans référencer ni exposer les limites du domaine de conception opérationnel à l'interface opérateur. L'article 13 exige que les déployeurs comprennent les limites du système — Scanara signale les modules de décision qui n'exposent pas les paramètres de l'ODD.
Absence de divulgation de l'interaction avec l'IA dans l'interface passager
Interfaces passagers de véhicules ou de drones qui affichent l'état de navigation ou de fonctionnement sans révéler que les décisions sont pilotées par l'IA. L'article 50(1) exige une notification lorsque des personnes physiques interagissent avec des systèmes d'IA — les passagers doivent connaître le niveau d'autonomie et les capacités actuelles du système.
Instructions d'utilisation sans comportement en mode dégradé
Documentation système qui décrit le fonctionnement normal sans documenter le comportement en cas de défaillance de capteur, de conditions météorologiques défavorables, de perte de connectivité ou d'autres conditions dégradées. L'article 13(3)(b)(i) exige la divulgation des limites et des conditions dans lesquelles le système peut présenter un dysfonctionnement — essentiel pour la sécurité des systèmes autonomes.
Liste de contrôle de conformité à l'article 13 pour les systèmes autonomes
Rendre les décisions de l'IA interprétables pour les opérateurs
Assurez-vous que les exploitants de flotte et les autorités de transport puissent comprendre la justification des décisions de l'IA, y compris les choix de navigation, les ajustements de vitesse et les décisions d'évitement d'obstacles. Fournissez des outils d'interprétabilité en temps réel et a posteriori.
Documenter le domaine de conception opérationnel
Fournissez une documentation détaillée de l'ODD, y compris les limites météorologiques, de type de route, de plage de vitesse, géographiques et temporelles. Incluez des indications claires sur ce qui se passe lorsque le système approche ou dépasse les limites de l'ODD.
Divulguer le comportement en mode dégradé et dans les cas limites
Documentez le comportement du système en cas de défaillance de capteur, de conditions météorologiques défavorables, de perte de connectivité et de scénarios d'obstacles inhabituels. Incluez les stratégies de repli, les conditions de risque minimal et les temps de transition prévus pour les demandes de reprise en main humaine.
Informer les passagers et les autres usagers de la route
Informez les passagers du niveau d'autonomie du système, de ses capacités actuelles et de ce qui est attendu d'eux. Pour les autres usagers de la route, mettez en œuvre des marquages d'identification des véhicules conformément à la juridiction.
Divulguer les indicateurs de sécurité et de performance
Rendez compte des performances du système, y compris la précision de détection des objets, les taux de faux positifs/négatifs, les temps de réaction et les résultats de validation de sécurité sur l'ensemble de l'ODD documenté. Incluez les performances dans les conditions limites.
Questions fréquentes
Ressources connexes
Article 13 : transparence
Exigences complètes de l'article 13 dans tous les secteurs.
Systèmes autonomes — Hub sectoriel
Guide complet de conformité à l'EU AI Act pour les systèmes autonomes.
Article 12 : tenue de registres pour les systèmes autonomes
Exigences de journalisation et de tenue de registres pour l'IA autonome.
Article 14 : surveillance humaine des systèmes autonomes
Obligations de surveillance humaine pour les systèmes d'IA autonomes.
Comment Scanara vous aide
Scanara automatise la conformité au règlement sur l'IA du code au dossier. Connectez vos repos GitHub et obtenez des rapports de conformité en quelques minutes.