Skip to main content

KI-Verordnung : systèmes d’IA à haut risque

Quels systèmes d’IA sont à haut risque, quelles exigences les fournisseurs respectent et qui supervise en Allemagne.

Un système d’IA à haut risque relève d’un domaine de l’annexe III. Il peut aussi être un composant de sécurité d’un produit, ou être lui-même un produit, relevant de la législation de l’annexe I. Le produit doit exiger une évaluation de la conformité par un tiers (article 6). Les fournisseurs doivent respecter les articles 9 à 16 ; les déployeurs, l’article 26.

Ces obligations s’appliquent à partir du 2 décembre 2027 (annexe III) et du 2 août 2028 (annexe I). L’article 2 énumère des exclusions. Les amendes peuvent atteindre 15 millions d’EUR ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu (article 99(4)). Prochaine étape : confrontez chaque système aux huit domaines de l’annexe III.

L’annexe III énumère huit domaines d’utilisation

  • Biométrie

    Identification biométrique à distance (pas la simple vérification d’identité), catégorisation biométrique selon des attributs sensibles et reconnaissance des émotions, lorsque le droit de l’Union ou le droit national en autorise l’usage.

  • Infrastructures critiques

    Composants de sécurité dans la gestion et l’exploitation des infrastructures numériques critiques, du trafic routier et de l’approvisionnement en eau, gaz, chauffage ou électricité.

  • Éducation et formation professionnelle

    Systèmes qui déterminent l’accès ou l’admission, évaluent les acquis d’apprentissage, apprécient le niveau d’éducation approprié ou surveillent les comportements interdits pendant les examens.

  • Emploi et gestion des travailleurs

    Systèmes de recrutement et de sélection, comme le tri des candidatures, et de décision sur les conditions de travail, la promotion et la cessation de la relation de travail, d’attribution des tâches selon le comportement individuel ou les traits personnels, et de suivi et d’évaluation des performances.

  • Services essentiels privés et publics

    Droit aux prestations et services publics essentiels d’assistance, lorsqu’il est évalué par des autorités publiques ou pour leur compte ; solvabilité et score de crédit des personnes physiques (hors détection de fraude) ; évaluation des risques et tarification en assurance vie et santé ; évaluation et répartition des appels d’urgence.

  • Répression

    Systèmes utilisés par ou pour les autorités répressives pour évaluer le risque d’être victime d’infractions, comme polygraphes, pour évaluer la fiabilité des preuves, pour évaluer le risque de commettre ou de réitérer une infraction et pour le profilage dans les enquêtes pénales, lorsque l’usage est autorisé.

  • Migration, asile et contrôle aux frontières

    Systèmes utilisés par ou pour les autorités publiques compétentes comme polygraphes, pour évaluer les risques migratoires, de sécurité ou sanitaires, pour examiner les demandes d’asile, de visa et de titre de séjour et pour détecter ou identifier des personnes, sauf pour vérifier des documents de voyage.

  • Administration de la justice et processus démocratiques

    Systèmes qui aident une autorité judiciaire à rechercher et interpréter les faits et le droit, et systèmes destinés à influencer le résultat d’une élection ou d’un référendum ou le comportement de vote, sauf les outils dont les personnes ne voient pas directement le résultat, comme la logistique de campagne.

Les fournisseurs doivent respecter les exigences des articles 9 à 15 et les obligations de l’article 16

  • Gestion des risques (article 9)

    Un système de gestion des risques fonctionne pendant tout le cycle de vie. Il identifie, évalue et réduit les risques, et le risque résiduel doit être jugé acceptable. Des tests ont lieu avant la mise sur le marché ou la mise en service.

  • Données et gouvernance des données (article 10)

    Pour les systèmes qui entraînent des modèles d’IA avec des données, les jeux de données d’entraînement, de validation et de test suivent des pratiques de gouvernance des données. Ils doivent être pertinents, suffisamment représentatifs et, dans la mesure du possible, exempts d’erreurs et complets au regard de la finalité prévue, et sont examinés au regard de biais possibles.

  • Documentation technique (article 11)

    La documentation technique, avec au moins les éléments de l’annexe IV, est établie avant la mise sur le marché ou la mise en service et tenue à jour. Les PME et les petites ETI (« petites entreprises à moyenne capitalisation » dans le règlement) peuvent utiliser un formulaire simplifié.

  • Enregistrement (article 12)

    Le système permet techniquement l’enregistrement automatique des événements (journaux) pendant son cycle de vie. Fournisseurs et déployeurs conservent les journaux sous leur contrôle au moins six mois, sauf disposition contraire d’une autre règle (articles 19 et 26(6)).

  • Transparence et notice d’utilisation (article 13)

    Le système est assez transparent pour que les déployeurs interprètent sa sortie et l’utilisent de manière appropriée, et il est accompagné d’une notice d’utilisation.

  • Contrôle humain (article 14)

    Le système est conçu pour que des personnes physiques puissent le contrôler efficacement. De manière appropriée et proportionnée, elles doivent pouvoir intervenir ou interrompre le système, par exemple au moyen d’un bouton d’arrêt ou d’une procédure similaire qui l’amène à s’arrêter dans un état sûr.

  • Exactitude, robustesse et cybersécurité (article 15)

    Le système atteint un niveau approprié d’exactitude, de robustesse et de cybersécurité et fonctionne de façon constante pendant tout son cycle de vie. Les niveaux et métriques d’exactitude sont déclarés dans la notice d’utilisation.

  • Obligations des fournisseurs (article 16)

    Les fournisseurs exploitent aussi un système de gestion de la qualité (article 17), conservent la documentation dix ans après la mise sur le marché ou la mise en service du système (article 18), réalisent une évaluation de la conformité (article 43), établissent la déclaration UE de conformité (article 47), apposent le marquage CE (article 48) et enregistrent le système (article 49).

Systèmes hors des règles à haut risque et systèmes plus anciens

Tous les systèmes de l’annexe III ne sont pas à haut risque. Un système ne l’est pas s’il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux, par exemple parce qu’il accomplit une tâche procédurale étroite. Un système qui réalise du profilage de personnes physiques est toujours à haut risque. Celui qui invoque cette exception documente l’évaluation avant la mise sur le marché ou la mise en service et enregistre le système (article 6(3) et (4), article 49(2)).

Le règlement ne s’applique pas aux systèmes d’IA utilisés exclusivement à des fins militaires, de défense ou de sécurité nationale (article 2(3)). Il ne s’applique pas aux systèmes d’IA développés et mis en service spécifiquement et à seule fin de recherche et développement scientifiques (article 2(6)), ni à la recherche, aux essais ou au développement avant la mise sur le marché ou la mise en service, sauf les essais en conditions réelles (article 2(8)). Les systèmes sous licences libres et ouvertes sont exclus, sauf s’ils sont mis sur le marché ou mis en service comme systèmes à haut risque ou relèvent de l’article 5 ou 50 (article 2(12)). Les personnes physiques qui utilisent un système dans le cadre d’une activité strictement personnelle à caractère non professionnel ne sont pas tenues comme déployeurs (article 2(10)). Pour les systèmes à haut risque liés à des produits relevant de la législation de l’annexe I, section B, comme les véhicules à moteur, l’aviation, le rail, les équipements marins, les véhicules agricoles et les machines, seuls l’article 6(1), l’article 60a et les articles 102 à 112 s’appliquent. Les articles 57 à 59 ne s’appliquent que dans la mesure où cette législation intègre les exigences (article 2(2)).

Les systèmes à haut risque mis sur le marché ou mis en service avant la date d’application ne sont couverts qu’après des modifications significatives de leur conception. En tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer au plus tard le 2 août 2030 (article 111(2)).

Un ordre de travail pratique pour les équipes d’ingénierie (notre proposition)

Le règlement ne fixe pas d’ordre de travail. Ces étapes suivent les dépendances entre les exigences.

  • 1

    Inventorier et classifier

    Listez tous les systèmes d’IA, notez la finalité prévue de chacun et confrontez-la aux annexes III et I. Consignez la classification et le responsable.

  • 2

    Mettre en place la gestion des risques

    Identifiez et évaluez les risques, définissez des métriques et des seuils de test avant la mise sur le marché ou la mise en service, et consignez les mesures et l’acceptation du risque résiduel (article 9).

  • 3

    Établir la documentation technique

    Rédigez la documentation de l’annexe IV et mettez-la à jour à chaque version. Les PME et les petites ETI peuvent utiliser un formulaire simplifié (article 11(1)).

  • 4

    Mettre en place la journalisation

    Faites enregistrer par le système les événements pour les trois finalités de l’article 12(2) et conservez les journaux sous votre contrôle au moins six mois (articles 19 et 26(6)).

  • 5

    Concevoir le contrôle et surveiller après le lancement

    Prévoyez des mesures de contrôle pour que les personnes puissent, de manière appropriée et proportionnée, intervenir ou interrompre le système, par exemple avec un bouton d’arrêt ou une procédure similaire. Remettez une notice d’utilisation aux déployeurs et assurez la surveillance après commercialisation et la déclaration des incidents graves (articles 14, 72 et 73).

Supervision en Allemagne : la Bundesnetzagentur et d’autres autorités

Selon le § 2(1) de la KI-Marktüberwachungs- und Innovationsförderungs-Gesetz (KI-MIG) du 22 juillet 2026, la Bundesnetzagentur est, par défaut, l’autorité de surveillance du marché pour le règlement (UE) 2024/1689. D’autres autorités sont compétentes dans certains cas, par exemple pour les systèmes liés à des produits relevant de la législation de l’annexe I, section A, pour les activités financières réglementées et pour les organismes publics des Länder (§ 2(2) à (8) KI-MIG). L’article 74 du règlement attribue d’autres rôles. Les fournisseurs remettent à une autorité compétente la documentation qu’elle demande de façon motivée, ainsi que les journaux dans la mesure où ils se trouvent sous leur contrôle (article 21).

Amendes pour les obligations à haut risque et connexes

  • Jusqu’à 15 millions d’EUR ou 3 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu, pour le non-respect des obligations des fournisseurs (article 16) ou des déployeurs (article 26) (article 99(4)).
  • Jusqu’à 35 millions d’EUR ou 7 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu, pour les pratiques interdites de l’article 5 (article 99(3)).
  • Jusqu’à 7,5 millions d’EUR ou 1 % du chiffre d’affaires annuel mondial, le montant le plus élevé étant retenu, pour des informations inexactes, incomplètes ou trompeuses fournies à des organismes notifiés ou à des autorités (article 99(5)).

Pour les PME, chaque amende atteint au plus le pourcentage ou le montant le plus bas (article 99(6)). Pour les petites ETI (« petites entreprises à moyenne capitalisation », article 3, point 14b), le même plafond s’applique aux amendes de l’article 99, paragraphes 4 et 5 (article 99(6a)). Le niveau de 15 millions d’EUR couvre aussi les obligations des fournisseurs et des opérateurs de l’article 25, paragraphes 2 et 4 (article 99(4), point da)).

À lire ensuite : checklist et exigences par rôle

Scanara prépare des preuves à partir de vos dépôts

Scanara lit vos dépôts GitHub connectés et exécute des analyses à base de règles pour repérer les schémas courants d'IA et d'apprentissage automatique. Il peut manquer du code non standard. Par ailleurs, il génère des projets de documentation à partir de modèles et de vos réponses aux évaluations, comme preuves pour votre travail de conformité. Vous décidez de la classification.