Mon système IA est-il à haut risque ? Arbre de décision
Arbre de décision interactif pour la classification des risques selon le règlement IA. Couvre les pratiques interdites de l'article 5, les 8 catégories à haut risque de l'annexe III, les obligations des modèles GPAI et la transparence de l'article 50.
Le règlement européen sur l'IA (règlement (UE) 2024/1689) classe les systèmes d'IA selon leur finalité prévue : pratiques interdites (article 5), systèmes à haut risque (article 6 avec les annexes I et III) et systèmes soumis à des obligations de transparence (article 50). Les modèles d'IA à usage général ont leurs propres règles (chapitre V). Les obligations vont de l'interdiction pure et simple aux codes de conduite volontaires.
Utilisez cet arbre de décision interactif pour savoir quelles règles s'appliquent à votre système d'IA. Il suit les articles 5, 6, 50 et 51 ainsi que les annexes I et III. Répondez à chaque question pour la finalité prévue de votre système : l'usage que vous indiquez dans la notice d'utilisation, le matériel promotionnel ou commercial et la documentation technique (article 3, point 12). Le résultat est un point de départ, pas un avis juridique.
Arbre de décision interactif
Votre système d'IA met-il en œuvre une pratique interdite par l'article 5 ?
L'article 5 interdit notamment : les techniques subliminales ou manipulatrices nuisibles ; l'exploitation des vulnérabilités liées à l'âge, au handicap ou à une situation sociale ou économique ; la notation sociale ; l'évaluation du risque de commettre une infraction fondée uniquement sur le profilage ; le moissonnage non ciblé d'images faciales pour constituer des bases de données de reconnaissance faciale ; la reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement (sauf pour des raisons médicales ou de sécurité) ; la catégorisation biométrique visant à déduire la race, les opinions politiques, l'appartenance syndicale, les convictions religieuses ou philosophiques, la vie sexuelle ou l'orientation sexuelle ; et l'identification biométrique à distance en temps réel dans l'espace public à des fins répressives, avec des exceptions étroites. À partir du 2 décembre 2026, il interdit aussi les systèmes d'IA qui génèrent des deepfakes sexuellement explicites de personnes identifiables sans leur consentement ou du matériel pédopornographique (article 5, paragraphe 1, points ba) et bb)).
Comprendre le cadre de classification des risques
Le règlement sur l'IA suit une approche fondée sur les risques : plus un système d'IA présente de risques pour la santé, la sécurité et les droits fondamentaux, plus les exigences sont strictes. Il s'applique aux fournisseurs, aux déployeurs, aux importateurs, aux distributeurs, aux fabricants de produits, aux mandataires et aux personnes concernées dans l'UE, ainsi qu'aux fournisseurs et déployeurs de pays tiers lorsque la sortie du système est utilisée dans l'UE (article 2, paragraphe 1). Il ne s'applique pas aux systèmes d'IA utilisés exclusivement à des fins militaires, de défense ou de sécurité nationale (article 2, paragraphe 3), aux systèmes et modèles d'IA développés et mis en service dans le seul but de la recherche scientifique (article 2, paragraphe 6), à la recherche, aux essais et au développement avant la mise sur le marché ou la mise en service d'un système, sauf les essais en conditions réelles (article 2, paragraphe 8), ni aux personnes physiques qui utilisent l'IA dans une activité strictement personnelle et non professionnelle (article 2, paragraphe 10). Les systèmes d'IA publiés sous licence libre et ouverte sont aussi exclus, sauf s'ils sont mis sur le marché ou en service comme systèmes à haut risque ou relèvent de l'article 5 ou 50 (article 2, paragraphe 12). Les expressions « risque limité » et « risque minimal » sont des raccourcis courants ; le règlement lui-même ne les utilise pas.
Pratiques interdites (article 5)
Pratiques d'IA que le règlement interdit purement et simplement (article 5), comme la notation sociale, les techniques subliminales ou manipulatrices nuisibles, l'exploitation des vulnérabilités et certaines pratiques biométriques. Les amendes peuvent atteindre 35 millions d'EUR ou, pour une entreprise, 7 % du chiffre d'affaires annuel mondial total, le montant le plus élevé étant retenu (article 99, paragraphe 3).
Haut risque
Systèmes d'IA qui sont un composant de sécurité d'un produit relevant d'une législation de l'annexe I et qui doivent faire l'objet d'une évaluation de la conformité par un tiers, ou qui sont utilisés pour les usages de l'annexe III, comme la biométrie, les infrastructures critiques, l'éducation, l'emploi, la répression et la migration. Ils doivent respecter des exigences notamment en matière de gestion des risques, de gouvernance des données, de documentation technique, de tenue de registres, de transparence, de contrôle humain, d'exactitude et de robustesse. Les exigences s'appliquent aux systèmes de l'annexe III à partir du 2 décembre 2027 et aux systèmes de la section A de l'annexe I à partir du 2 août 2028 (article 113, tel que modifié par le règlement (UE) 2026/1744). Les systèmes mis sur le marché ou mis en service avant ces dates ne sont couverts qu'après des modifications importantes de leur conception ; en tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer au plus tard le 2 août 2030 (article 111(2)). Pour les systèmes de la section B, seuls les articles 6(1), 60 bis et 102 à 112 s'appliquent, et les articles 57 à 59 seulement dans la mesure où la législation sectorielle a intégré les exigences relatives aux systèmes à haut risque (article 2(2)).
Obligations de transparence (article 50)
Systèmes d'IA qui interagissent directement avec des personnes, génèrent des contenus audio, image, vidéo ou texte synthétiques, ou effectuent de la reconnaissance des émotions ou de la catégorisation biométrique. Les fournisseurs et les déployeurs doivent, à partir du 2 août 2026, informer les personnes ou marquer les contenus comme l'exige l'article 50. L'information doit être claire et fournie au plus tard lors de la première interaction ou de la première exposition (article 50, paragraphe 5).
Tous les autres systèmes d'IA
Systèmes d'IA pour lesquels aucune interdiction de l'article 5, aucune règle relative aux systèmes à haut risque et aucune obligation de l'article 50 ne s'applique. Des règles générales continuent de s'appliquer, comme la maîtrise de l'IA (article 4). Les codes de conduite volontaires sont encouragés (article 95).
Erreurs courantes de classification
Classer selon l'étiquette plutôt que selon la finalité prévue
La classification suit la finalité prévue : l'usage que le fournisseur indique dans la notice d'utilisation, le matériel promotionnel ou commercial et la documentation technique (article 3, point 12). Un système de recrutement, par exemple pour filtrer des candidatures ou évaluer des candidats, relève d'un usage de l'annexe III (point 4(a)). L'appeler outil de suggestion n'y change rien. Seules les conditions de l'article 6(3) le peuvent, et jamais si le système effectue du profilage de personnes physiques.
Ignorer l'exception de l'article 6(3)
Tous les systèmes de l'annexe III ne sont pas à haut risque. Un système qui ne présente pas de risque important de préjudice et remplit l'une des quatre conditions de l'article 6(3) n'est pas considéré comme à haut risque. L'exception ne s'applique jamais lorsque le système effectue du profilage de personnes physiques. Le fournisseur doit documenter son évaluation avant la mise sur le marché ou la mise en service du système et doit tout de même enregistrer le système dans la base de données de l'UE (article 6(4), article 49(2)).
Oublier la classification en aval
Un modèle GPAI n'est pas lui-même classé à haut risque. Si vous développez un système d'IA sur un modèle et que ce système est à haut risque selon l'article 6, le fournisseur de ce système porte les obligations des systèmes à haut risque, et les obligations du fournisseur du modèle au titre de l'article 53 restent distinctes. Classez le système selon sa finalité prévue, pas selon le modèle seul.
Questions fréquentes
Comment savoir si mon système d'IA est à haut risque ?
Un système d'IA est à haut risque s'il relève de l'une de deux voies. Voie 1 (article 6(1)) : il est un composant de sécurité d'un produit, ou lui-même un produit, relevant d'une législation de l'annexe I, et ce produit doit faire l'objet d'une évaluation de la conformité par un tiers. Voie 2 (article 6(2)) : il est utilisé pour un usage de l'annexe III et l'exception de l'article 6(3) ne s'applique pas ; le profilage de personnes physiques n'est jamais exempté. Pour les produits de la section B de l'annexe I, seuls les articles 6(1), 60 bis et 102 à 112 s'appliquent, et les articles 57 à 59 seulement dans la mesure où la législation sectorielle a intégré les exigences relatives aux systèmes à haut risque (article 2(2)). Utilisez l'arbre de décision ci-dessus pour parcourir les critères.
Que se passe-t-il si je classe mal mon système d'IA ?
Si un système de l'annexe III est classé à tort comme non à haut risque pour éviter les règles, le fournisseur s'expose à des amendes au titre de l'article 99 (article 80(7)). Les amendes pour manquement aux obligations des fournisseurs de l'article 16 atteignent 15 millions d'EUR ou, pour une entreprise, 3 % du chiffre d'affaires annuel mondial total, le montant le plus élevé étant retenu (article 99(4)). Pour les PME et les petites ETI (« petites entreprises à moyenne capitalisation » dans le règlement), le plus bas des deux montants est la limite (article 99(6) et (6 bis)).
La classification de risque d'un système d'IA peut-elle changer au fil du temps ?
Oui. La Commission peut modifier l'annexe III et les conditions de l'article 6(3) par des actes délégués (article 7, article 6(6) et (7)). Un changement de finalité prévue peut aussi changer la classification : quiconque modifie la finalité prévue d'un système qui n'était pas à haut risque et qui est déjà sur le marché ou en service de sorte qu'il le devienne en devient le fournisseur (article 25(1)(c)). Réévaluez la classification chaque fois que la finalité ou le contexte d'utilisation change. Le règlement (UE) 2026/1744 (le « Digital Omnibus sur l'IA ») a fixé les dates des règles relatives aux systèmes à haut risque au 2 décembre 2027 pour les systèmes de l'annexe III et au 2 août 2028 pour ceux de l'annexe I. Les interdictions de l'article 5 s'appliquent depuis le 2 février 2025 (article 5(1), points ba) et bb) : à partir du 2 décembre 2026) et les obligations GPAI depuis le 2 août 2025.
L'utilisation d'une API d'IA tierce rend-elle mon système à haut risque ?
Cela dépend de la finalité prévue de votre système, pas de l'origine du modèle. Si vous intégrez une API d'IA tierce dans un système relevant d'un usage de l'annexe III, comme la notation de crédit ou le recrutement, votre système est à haut risque, sauf si l'exception de l'article 6(3) s'applique. Celui qui met ce système sur le marché ou en service sous son propre nom ou sa propre marque en est le fournisseur (article 3, point 3) et porte les obligations des fournisseurs, quel que soit l'auteur du modèle. Le fournisseur du modèle a ses propres obligations GPAI.
Scanara prépare des preuves à partir de vos dépôts
Scanara lit vos dépôts GitHub connectés et exécute des analyses à base de règles pour repérer les schémas courants d'IA et d'apprentissage automatique. Il peut manquer du code non standard. Par ailleurs, il génère des projets de documentation à partir de modèles et de vos réponses aux évaluations, comme preuves pour votre travail de conformité. Vous décidez de la classification.