IA fantôme : construire un inventaire des systèmes IA
Comment repérer les systèmes d’IA de votre organisation et les consigner dans un registre unique : cinq étapes, un modèle de registre et les obligations des articles 4, 26 et 49.
Le règlement sur l’IA ne contient aucun article imposant un inventaire des systèmes d’IA, mais plusieurs obligations sont difficiles à respecter sans inventaire.
Fournisseurs et déployeurs doivent prendre des mesures pour développer la maîtrise de l’IA de leur personnel (article 4). Cela s’applique depuis le 2 février 2025. Les déployeurs de systèmes à haut risque doivent prendre des mesures appropriées pour les utiliser conformément au mode d’emploi. Cela s’applique à partir du 2 décembre 2027 (annexe III) ou du 2 août 2028 (annexe I). Les manquements à l’article 26 atteignent 15 millions d’EUR ou 3 % du chiffre d’affaires annuel mondial, le plus élevé étant retenu (article 99(4)). Première étape : listez chaque système d’IA utilisé.
Trois des obligations supposent que vous connaissiez vos systèmes d’IA
Maîtrise de l’IA (article 4)
Les fournisseurs et les déployeurs de systèmes d’IA prennent des mesures pour développer la maîtrise de l’IA de leur personnel et des autres personnes qui exploitent et utilisent des systèmes d’IA pour leur compte, en tenant compte du contexte. L’obligation n’exige pas de garantir un niveau précis à chaque personne.
Obligations du déployeur (article 26)
Les déployeurs de systèmes d’IA à haut risque prennent des mesures techniques et organisationnelles appropriées pour les utiliser conformément au mode d’emploi, confient la surveillance humaine à des personnes ayant la compétence, la formation et l’autorité nécessaires, et surveillent le fonctionnement du système (article 26, paragraphes 1, 2 et 5).
Enregistrement (article 49)
Les fournisseurs enregistrent dans la base de données de l’UE les systèmes à haut risque de l’annexe III, ainsi que ceux qu’ils jugent non à haut risque au titre de l’article 6, paragraphe 3, avant de les mettre sur le marché ou en service. Les systèmes de répression et de migration (annexe III, points 1, 6 et 7) vont dans une section non publique, et les systèmes d’infrastructures critiques (point 2) sont enregistrés au niveau national. Les déployeurs qui sont des autorités publiques, des institutions, organes ou organismes de l’Union, ou des personnes agissant en leur nom, enregistrent leur utilisation (article 49, paragraphe 3).
L’article 2 limite le champ d’application. Aux systèmes d’IA classés à haut risque au titre de l’article 6, paragraphe 1, qui se rapportent à des produits de l’annexe I, section B, seuls l’article 6, paragraphe 1, l’article 60 bis et les articles 102 à 112 s’appliquent, donc pas l’article 4. Le règlement exclut aussi les systèmes utilisés exclusivement à des fins militaires, de défense ou de sécurité nationale, les systèmes de recherche et l’usage privé non professionnel (article 2, paragraphes 2, 3, 6, 8 et 10).
Ce qui est un système d’IA et ce qui n’en est pas un
Le règlement définit un système d’IA comme un système automatisé conçu pour fonctionner à différents niveaux d’autonomie et qui déduit, à partir des entrées reçues, comment générer des sorties telles que des prédictions, du contenu, des recommandations ou des décisions (article 3, point 1). Les systèmes fondés uniquement sur des règles définies par des personnes physiques ne sont pas couverts (considérant 12).
Services d’IA appelés par API
Votre code appelle un modèle d’IA par une API. Un système d’IA est utilisé même si un éditeur exploite le modèle. Enregistrez-le et notez qui est le fournisseur et qui est le déployeur.
Modèles préentraînés intégrés
Un fichier de modèle issu d’un dépôt public de modèles s’exécute dans votre application, par exemple pour la classification ou la modération de contenu. Enregistrez le modèle et son origine.
Outils SaaS dotés de fonctions d’IA
Les assistants d’écriture, le scoring en CRM et les assistants de code en sont des exemples. Utiliser un tel outil pour une finalité de l’annexe III, comme présélectionner des candidats, peut faire de vous le déployeur d’un système à haut risque, sauf si l’exception de l’article 6, paragraphe 3, s’applique.
Fonctions de scoring, de recommandation et de filtrage
Ce sont des systèmes d’IA seulement s’ils déduisent des sorties à partir des données d’entrée. Un jeu de règles fixes écrit par des personnes n’est pas un système d’IA. Vérifiez lequel vous avez.
Cinq étapes pour construire l’inventaire
Analysez votre code
Commencez par la détection dans le code : cherchez dans tous les dépôts les importations liées à l’IA, les appels d’API, les fichiers de modèles et la configuration.
- Chercher les importations de frameworks de ML (par exemple tensorflow, torch, sklearn, transformers)
- Repérer les appels d’API d’IA (par exemple openai, anthropic, google.ai, azure.cognitiveservices)
- Trouver les fichiers de modèles (par exemple .pb, .pt, .onnx, .h5, .pkl, .safetensors)
- Trouver les fichiers de configuration d’IA, comme les configurations de modèles et les modèles de prompts
- Chercher l’usage d’embeddings et de bases de données vectorielles (par exemple pinecone, weaviate, chromadb)
Interrogez vos équipes
L’analyse de code trouve l’IA présente dans le code et manque l’IA prévue, expérimentale ou fondée sur du SaaS. Interrogez chaque équipe sur le reste.
- Envoyer un court questionnaire aux équipes d’ingénierie, de produit et métiers
- Interroger sur les fonctions d’IA des outils SaaS utilisés
- Identifier les projets d’IA expérimentaux ou de preuve de concept
- Documenter les outils d’IA utilisés dans les processus internes, comme la présélection de candidats, le support client et l’analyse
- Cartographier les relations avec les fournisseurs qui impliquent des services d’IA ou de ML
Classez chaque système
Pour chaque système, vérifiez dans cet ordre quelles règles s’appliquent et consignez le raisonnement.
- Vérifier les pratiques interdites de l’article 5
- Vérifier la voie de l’annexe I et les 8 domaines de l’annexe III (article 6)
- Vérifier l’exception de l’article 6, paragraphe 3, le cas échéant
- Vérifier si un modèle d’IA à usage général est concerné (article 3, point 63)
- Vérifier les obligations de transparence de l’article 50
- Documenter le raisonnement pour chaque système
Tenez un registre unique
Créez un registre unique de tous les systèmes d’IA. Il sert de base aux obligations des articles 4, 26 et 49 et aux demandes des autorités.
- Attribuer un identifiant unique à chaque système d’IA
- Consigner le fournisseur, le déployeur et la personne responsable
- Consigner la classification et le raisonnement
- Suivre les obligations restant à remplir pour chaque système
- Lier la documentation technique (annexe IV) le cas échéant
- Conserver l’historique des versions et les traces des modifications
Maintenez-le à jour
Un inventaire n’est utile que s’il reste à jour. Enregistrez les nouveaux systèmes d’IA et les changements susceptibles de modifier la classification.
- Ajouter un contrôle de l’inventaire d’IA à la revue de code et aux pull requests
- Exiger l’enregistrement d’un système d’IA avant sa mise en production
- Rechercher les nouvelles dépendances d’IA dans le CI/CD
- Revoir l’inventaire avec les parties prenantes chaque trimestre
- Définir qui décide lorsqu’un nouveau système peut être à haut risque
- Former les équipes de développement à repérer et signaler les systèmes d’IA
Un registre possible : dix champs (notre suggestion)
| Champ | Description | Exemple |
|---|---|---|
| ID du système | Identifiant unique | AI-SYS-001 |
| Nom du système | Nom utilisé en interne | Assistant de présélection de CV |
| Fournisseur | Qui a développé le système | Nom de l’éditeur ou équipe interne |
| Votre rôle | Fournisseur, déployeur ou les deux | Déployeur |
| Classification | Résultat de votre classification, avec raisonnement | Haut risque, annexe III, point 4, a |
| Finalité prévue | À quoi sert le système | Classe les candidatures |
| État de déploiement | Étape actuelle du cycle de vie | En production |
| Données traitées | Types de données traitées | CV et formulaires de candidature |
| Personne responsable | Responsable interne des obligations | Direction des ressources humaines |
| Obligations ouvertes | Ce qui reste à faire | Demander le mode d’emploi |
Questions fréquentes sur l’inventaire de l’IA
Le règlement sur l’IA impose-t-il un inventaire des systèmes d’IA ?
Aucun article n’impose un inventaire en tant que document. Plusieurs obligations supposent que vous connaissiez vos systèmes d’IA : la maîtrise de l’IA des fournisseurs et des déployeurs (article 4), les obligations des déployeurs de systèmes à haut risque (article 26) et l’enregistrement dans la base de données de l’UE (article 49). Le fournisseur qui juge qu’un système de l’annexe III n’est pas à haut risque doit documenter cette appréciation et enregistrer le système (article 6, paragraphe 4, et article 49, paragraphe 2).
Comment traiter les systèmes d’IA déjà en production ?
Commencez par les systèmes susceptibles d’être interdits (article 5) ou à haut risque (article 6). Enregistrez chaque système, classez-le et notez son fournisseur. Le règlement a des limites : il exclut l’usage militaire, la recherche et l’usage purement privé (article 2, paragraphes 3, 6, 8 et 10), et certaines interdictions ne s’appliquent que plus tard (article 113, point a). Un système à haut risque mis sur le marché ou mis en service avant la date d’application n’est couvert que si sa conception subit ensuite des changements importants. En tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques doivent prendre les mesures nécessaires pour se conformer à une date ultérieure (article 111, paragraphe 2)
Dois-je inclure dans l’inventaire les outils d’IA destinés aux salariés ?
Oui. L’article 4 couvre les systèmes d’IA que votre personnel exploite et utilise, qu’ils soient ou non à haut risque. L’annexe III, point 4, énumère des usages dans l’emploi, comme le recrutement et la sélection, les décisions sur les conditions de travail, l’attribution des tâches et le suivi de la performance et du comportement.
À lire ensuite : classification et documentation
Mon système IA est-il à haut risque ? Arbre de décision
Parcourt les questions qui décident si un système d’IA est interdit, à haut risque ou ni l’un ni l’autre.
Annexe III en détail : les 8 catégories à haut risque
Énumère les 8 domaines dont les systèmes d’IA sont à haut risque, avec des exemples tirés du texte de l’annexe.
Documentation technique de l’annexe IV : les neuf points
Présente les neuf points de documentation dont un système à haut risque a besoin.
Scanara prépare des preuves à partir de vos dépôts
Scanara lit vos dépôts GitHub connectés et exécute des analyses à base de règles pour repérer les schémas courants d'IA et d'apprentissage automatique. Il peut manquer du code non standard. Par ailleurs, il génère des projets de documentation à partir de modèles et de vos réponses aux évaluations, comme preuves pour votre travail de conformité. Vous décidez de la classification.