Skip to main content

Article 50 pour les systèmes autonomes : transparence et information

Comment l’article 50 (transparence) s’applique aux systèmes autonomes : assistants et chatbots dans les véhicules et robots, contenus de synthèse, limite de l’annexe I section B, dates et amendes.

Les fournisseurs de systèmes d’IA qui interagissent avec des personnes ou génèrent des contenus synthétiques doivent le signaler. Il en va de même pour les déployeurs qui utilisent la reconnaissance des émotions ou génèrent des deepfakes (article 50).

Les « systèmes autonomes » ne sont pas une catégorie du règlement, et l’article 50 n’a pas de critère de classe de risque. Les obligations s’appliquent à partir du 2 août 2026 (article 113). Les amendes vont jusqu’à 15 millions d’EUR ou, pour une entreprise, 3 % du chiffre d’affaires annuel mondial (article 99, paragraphe 4). Le montant le plus élevé s’applique. Prochaine étape : vérifiez chaque assistant, chatbot et générateur de contenu au regard de l’article 50, paragraphes 1 à 4.

L’article 50, paragraphes 1 à 4, fixe les obligations de divulgation

Chaque paragraphe désigne qui doit informer. Chacun prévoit aussi une exception pour les usages autorisés ou permis par la loi pour détecter, prévenir ou rechercher des infractions pénales ; les paragraphes 1, 2 et 4 mentionnent aussi les poursuites, et les paragraphes 1 et 3 y attachent des conditions.

  • art. 50(1)
    Systèmes qui interagissent avec des personnes (fournisseur)

    Les fournisseurs doivent concevoir les systèmes destinés à interagir directement avec des personnes physiques de façon que ces personnes soient informées qu’elles interagissent avec un système d’IA, sauf si cela ressort clairement du point de vue d’une personne raisonnablement informée, attentive et avisée, compte tenu des circonstances et du contexte d’utilisation.

  • art. 50(2)
    Marquer les sorties synthétiques (fournisseur)

    Les fournisseurs de systèmes qui génèrent des contenus audio, image, vidéo ou texte de synthèse doivent veiller à ce que les sorties soient marquées dans un format lisible par machine et détectables comme ayant été générées ou manipulées artificiellement. L’obligation ne s’applique pas dans la mesure où le système exécute une fonction d’assistance à la mise en forme standard ou ne modifie pas substantiellement les données d’entrée ou leur sémantique.

  • art. 50(3)
    Reconnaissance des émotions et catégorisation biométrique (déployeur)

    Les déployeurs d’un système de reconnaissance des émotions ou de catégorisation biométrique doivent informer les personnes physiques qui y sont exposées du fonctionnement du système, et traiter les données à caractère personnel conformément au droit applicable en matière de protection des données.

  • art. 50(4)
    Deepfakes et textes publiés (déployeur)

    Les déployeurs d’un système qui génère ou manipule des images, contenus audio ou vidéo constituant un deepfake doivent révéler que ces contenus ont été générés ou manipulés artificiellement. Il en va de même pour le texte publié dans le but d’informer le public sur des questions d’intérêt public, sauf si le texte a fait l’objet d’un examen humain ou d’un contrôle éditorial et qu’une personne assume la responsabilité éditoriale. Pour une œuvre manifestement artistique, créative, satirique ou fictive, l’obligation se limite à révéler l’existence de contenus générés d’une manière qui n’entrave pas l’affichage ou la jouissance de l’œuvre.

  • art. 50(5)
    Comment et quand informer

    L’information doit être claire et distinguable, fournie au plus tard lors de la première interaction ou exposition, et conforme aux exigences d’accessibilité applicables (article 50, paragraphe 5).

L’article 50 s’applique aux systèmes autonomes sans critère de classe de risque

La question est ce que fait le système, pas dans quelle annexe il figure. Une limite découle de l’article 2, paragraphe 2.

  • Les « systèmes autonomes » ne sont pas une catégorie du règlement

    Le règlement ne connaît pas de catégorie « systèmes autonomes ». Ce site emploie le mot pour l’IA des véhicules, drones, robots et machines, et pour l’IA qui aide à gérer le trafic routier. L’article 50 ne dépend ni d’un secteur ni d’une annexe : il s’applique à ce que fait un système, qu’il soit ou non à haut risque. Une limite découle de l’article 2, paragraphe 2 ; voir la ligne sur la section B ci-dessous.

  • Les systèmes à haut risque cumulent les deux séries d’obligations

    Un système à haut risque au titre de l’annexe III, point 2, ou en tant que produit de la section A, qui dispose aussi d’une interface de conversation, est soumis aux obligations de l’article 50 à partir du 2 août 2026 et à celles du chapitre III à partir du 2 décembre 2027 ou du 2 août 2028. L’article 50 ne porte pas atteinte aux exigences et obligations du chapitre III (article 50, paragraphe 6).

  • Annexe I, section B : l’article 50 ne figure pas à l’article 2, paragraphe 2

    L’article 2, paragraphe 2 énumère les dispositions qui s’appliquent à un système d’IA à haut risque au titre de l’article 6, paragraphe 1 qui concerne un produit de l’annexe I, section B, comme un véhicule à moteur, un aéronef, un produit ferroviaire, un équipement marin ou une machine ; l’article 50 n’en fait pas partie. Un assistant vocal ou un chatbot dans un véhicule qui n’est pas lui-même un tel système à haut risque échappe à l’article 2, paragraphe 2, et l’article 50 s’applique à lui comme à tout système d’IA. Pour un système qui est les deux, le règlement ne donne pas d’autre réponse ; demandez conseil à un juriste.

  • Exemples par paragraphe

    Exemple : un assistant vocal dans un véhicule, ou un robot de livraison qui parle aux destinataires, est un système destiné à interagir directement avec des personnes physiques (article 50, paragraphe 1) ; l’information n’est pas nécessaire lorsque cela ressort des circonstances. Exemple : un outil qui génère des messages vocaux ou des images synthétiques pour des clients génère des contenus de synthèse et relève de l’obligation de marquage du fournisseur (article 50, paragraphe 2) ; l’exploitant qui ne fait que l’utiliser est un déployeur, et ses obligations découlent de l’article 50, paragraphes 3 et 4, lorsqu’ils s’appliquent, pas du paragraphe 2. Selon son libellé, l’article 50, paragraphe 1, ne décrit pas un composant de perception, de planification ou de commande d’un véhicule ou d’une machine ; qu’un système soit destiné à interagir directement avec des personnes physiques découle de sa finalité prévue (article 3, point 12).

  • Dates

    L’article 113 fait s’appliquer le règlement à partir du 2 août 2026 ; le chapitre IV, qui contient l’article 50, ne fait pas partie des dispositions pour lesquelles les points a) à d) prévoient une autre date. Les fournisseurs de systèmes qui génèrent des contenus synthétiques et ont été mis sur le marché avant cette date doivent prendre les mesures nécessaires pour se conformer à l’article 50, paragraphe 2, d’ici le 2 décembre 2026 (article 111, paragraphe 4). Le règlement ne prévoit aucun délai de grâce pour l’article 50, paragraphes 1, 3 et 4.

  • Amendes

    Les manquements aux obligations de transparence des fournisseurs et des déployeurs de l’article 50 peuvent être sanctionnés d’amendes pouvant atteindre 15 millions d’EUR ou, pour une entreprise, 3 % de son chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu (article 99, paragraphe 4, point g)). Pour les PME, y compris les jeunes pousses, chaque amende est plafonnée au montant le plus faible (article 99, paragraphe 6). Le même plafond vaut pour les petites ETI (« petites entreprises à moyenne capitalisation » dans le règlement ; article 3, point 14 ter, article 99, paragraphe 6 bis). Chaque État membre fixe les règles déterminant dans quelle mesure des amendes administratives peuvent être imposées aux autorités et organismes publics établis dans cet État membre (article 99, paragraphe 8).

  • Limites du champ d’application du règlement

    Le règlement s’applique aux fournisseurs qui mettent sur le marché ou en service des systèmes d’IA dans l’Union, ou mettent sur le marché des modèles d’IA à usage général dans l’Union, où qu’ils soient établis (article 2, paragraphe 1, point a)), ainsi qu’aux fournisseurs et déployeurs établis dans un pays tiers lorsque les sorties du système d’IA sont utilisées dans l’Union (point c)). Il ne s’applique pas aux domaines qui ne relèvent pas du droit de l’Union et n’affecte pas les compétences des États membres en matière de sécurité nationale ; il ne s’applique pas non plus aux systèmes d’IA utilisés exclusivement à des fins militaires, de défense ou de sécurité nationale (article 2, paragraphe 3). Le règlement ne s’applique pas aux systèmes ou modèles d’IA, y compris leurs sorties, spécifiquement développés et mis en service à la seule fin de la recherche et du développement scientifiques (article 2, paragraphe 6). Il ne s’applique pas non plus aux activités de recherche, d’essai et de développement menées avant la mise sur le marché ou la mise en service d’un système ou d’un modèle ; les essais en conditions réelles ne sont pas couverts par cette exclusion (article 2, paragraphe 8). Il ne s’applique pas aux systèmes d’IA publiés dans le cadre de licences libres et ouvertes, sauf s’ils sont mis sur le marché ou mis en service en tant que systèmes d’IA à haut risque ou en tant que systèmes d’IA relevant de l’article 5 ou 50 (article 2, paragraphe 12). Les personnes physiques qui utilisent un système dans le cadre d’une activité strictement personnelle à caractère non professionnel ne sont pas liées en tant que déployeurs (article 2, paragraphe 10).

Ce que le règlement laisse ouvert pour les systèmes autonomes

  • Aucune règle propre aux systèmes autonomes, aucun format d’étiquette

    L’article 50 n’a pas de règle propre aux systèmes autonomes. Il ne nomme ni formulation ni icône ; l’obligation de marquage demande un format lisible par machine et la détectabilité, compte tenu de l’état de l’art généralement reconnu, qui peut se refléter dans des normes techniques pertinentes (article 50, paragraphe 2). La Commission doit élaborer des lignes directrices sur l’article 50 (article 96, paragraphe 1, point d)).

  • Codes de bonne pratique

    La Commission encourage et facilite l’élaboration de codes de bonnes pratiques sur la détection, le marquage et l’étiquetage des contenus générés ou manipulés artificiellement, et évalue si leur respect permet d’assurer la conformité à l’article 50, paragraphes 2 et 4. Si elle juge un code inadéquat, elle peut adopter un acte d’exécution précisant des règles communes (article 50, paragraphe 7). L’article ne rend pas leur respect obligatoire.

  • Examen humain

    L’exception pour l’examen humain ou le contrôle éditorial figure à l’article 50, paragraphe 4, pour le texte publié. L’article 50, paragraphe 2, n’en prévoit pas ; ses exceptions sont l’assistance à la mise en forme standard, l’absence de modification substantielle des données d’entrée ou de leur sémantique, et l’autorisation par la loi à des fins pénales.

  • Aucune obligation d’étiquetage pour les avertissements, messages d’état ou données de télémétrie

    L’article 50 ne nomme aucune obligation propre aux avertissements, messages d’état, données de télémétrie ou rapports d’exploitation d’un véhicule, d’un aéronef ou d’une machine. L’obligation d’information du déployeur ne naît que dans les cas de l’article 50, paragraphe 3 (reconnaissance des émotions et catégorisation biométrique) et de l’article 50, paragraphe 4 (hypertrucages et textes publiés sur des questions d’intérêt public).

  • Autres règles de transparence

    L’article 50 est sans préjudice des autres obligations de transparence prévues par le droit de l’Union ou le droit national pour les déployeurs de systèmes d’IA (article 50, paragraphe 6). Le règlement ne dit pas si d’autres textes exigent des informations supplémentaires aux clients ou au public.

Questions sur l’article 50 pour les systèmes autonomes

Un robot de livraison ou un assistant embarqué doit-il dire aux personnes qu’il est un système d’IA ?

Oui, s’il s’agit d’un système destiné à interagir directement avec des personnes physiques, sauf si cela ressort des circonstances et du contexte d’utilisation du point de vue d’une personne raisonnablement informée, attentive et avisée. Le fournisseur doit concevoir le système de façon que la personne soit informée (article 50, paragraphe 1), au plus tard lors de la première interaction (article 50, paragraphe 5).

Les passagers doivent-ils être informés qu’un véhicule est autonome ?

L’article 50 ne contient pas de règle de ce type. L’article 50, paragraphe 1, exige que les personnes soient informées qu’elles interagissent avec un système d’IA lorsqu’un système est destiné à interagir directement avec elles. Le règlement ne dit pas si un système de conduite le fait ; demandez conseil à un juriste.

L’article 50 s’applique-t-il à un système de perception ou de commande ?

L’article 50 regarde ce que fait un système. Le paragraphe 1 vise les systèmes destinés à interagir directement avec des personnes physiques, le paragraphe 2 les systèmes qui génèrent des contenus audio, image, vidéo ou texte de synthèse, le paragraphe 3 les systèmes de reconnaissance des émotions et de catégorisation biométrique, et le paragraphe 4 les hypertrucages et les textes publiés. Selon son libellé, un système dont la sortie est une commande de direction, une mesure ou une alarme n’est pas décrit en ces termes. S’il est à haut risque, le chapitre III s’applique séparément (article 50, paragraphe 6).

L’article 50 s’applique-t-il à un système dans un produit de l’annexe I, section B ?

L’article 2, paragraphe 2, énumère les dispositions qui s’appliquent à un système d’IA à haut risque au titre de l’article 6, paragraphe 1, dans un produit de la section B ; l’article 50 n’en fait pas partie. Un chatbot ou un assistant dans un véhicule qui n’est pas lui-même un tel système à haut risque échappe à l’article 2, paragraphe 2, et l’article 50 s’applique à lui comme à tout système d’IA. Pour un système qui est les deux, demandez conseil à un juriste.

Pages liées

Scanara prépare des preuves à partir de vos dépôts

Scanara lit vos dépôts GitHub connectés et exécute des analyses à base de règles pour repérer les schémas courants d'IA et d'apprentissage automatique. Il peut manquer du code non standard. Par ailleurs, il génère des projets de documentation à partir de modèles et de vos réponses aux évaluations, comme preuves pour votre travail de conformité. Vous décidez de la classification.