Article 13 pour l’IA dans l’éducation : transparence et information des déployeurs

L’article 13 fixe des obligations pour le fournisseur. Son destinataire est le déployeur, tel qu’un établissement scolaire, une université ou un organisme d’examen.

• art. 13(1)
  Assez transparent pour interpréter les sorties

  Les systèmes à haut risque doivent être conçus et développés de manière que leur fonctionnement soit suffisamment transparent pour permettre aux déployeurs d’interpréter les sorties d’un système et de les utiliser de manière appropriée. Un type et un niveau adéquats de transparence doivent être garantis afin de veiller au respect des obligations pertinentes incombant au fournisseur et au déployeur énoncées à la section 3.

• art. 13(2)
  Notice d’utilisation

  Les systèmes à haut risque doivent être accompagnés d’une notice d’utilisation dans un format numérique approprié ou autre. Elle contient des informations concises, complètes, exactes et claires, qui soient pertinentes, accessibles et compréhensibles pour les déployeurs.

• art. 13(3)(a)–(c)
  Identité, performance et risques

  La notice contient au moins : a) l’identité et les coordonnées du fournisseur et, le cas échéant, de son mandataire ; b) les caractéristiques, les capacités et les limites de performance du système, notamment : i) sa finalité prévue ; ii) le niveau d’exactitude, y compris les indicateurs utilisés, de robustesse et de cybersécurité visé à l’article 15 qui a servi de référence pour les tests et la validation du système et qui peut être attendu, ainsi que toutes circonstances connues et prévisibles susceptibles d’avoir une incidence sur ce niveau ; et iii) toutes circonstances connues ou prévisibles liées à l’utilisation du système susceptibles d’entraîner des risques pour la santé et la sécurité ou pour les droits fondamentaux visés à l’article 9, paragraphe 2 ; c) les modifications du système et de sa performance qui ont été prédéterminées par le fournisseur au moment de l’évaluation initiale de la conformité, le cas échéant.

• art. 13(3)(b)(iv)–(vii)
  Éléments qui dépendent du système

  Relèvent aussi du point b), avec les conditions propres au règlement : iv) le cas échéant, les capacités et caractéristiques techniques du système à fournir des informations pertinentes pour expliquer ses sorties ; v) le cas échéant, sa performance en ce qui concerne des personnes ou groupes de personnes spécifiques à l’égard desquels le système est destiné à être utilisé ; vi) le cas échéant, les spécifications relatives aux données d’entrée, ou toute autre information pertinente concernant les jeux de données d’entraînement, de validation et de test utilisés, compte tenu de la finalité prévue ; vii) le cas échéant, les informations permettant aux déployeurs d’interpréter les sorties et de les utiliser de manière appropriée.

• art. 13(3)(d)–(f)
  Contrôle, ressources et journaux

  La notice contient aussi : d) les mesures de contrôle humain visées à l’article 14, notamment les mesures techniques mises en place pour faciliter l’interprétation des sorties par les déployeurs ; e) les ressources informatiques et matérielles nécessaires, la durée de vie attendue du système et toutes les mesures de maintenance et de suivi, y compris leur fréquence, notamment en ce qui concerne les mises à jour logicielles ; f) le cas échéant, une description des mécanismes compris dans le système qui permettent aux déployeurs de collecter, stocker et interpréter correctement les journaux, conformément à l’article 12.

L’article 13 ne s’applique qu’aux systèmes d’IA à haut risque. Les lignes ci-dessous montrent où l’IA dans l’éducation devient à haut risque et à qui l’information doit parvenir.

• Le règlement n’a pas de régime sectoriel pour l’éducation

  Le règlement n’a pas de régime sectoriel pour l’éducation. L’annexe III, point 3, est le domaine à haut risque intitulé « Éducation et formation professionnelle ». Ce site emploie le mot éducation pour l’IA qui relève du règlement par ce point. Le point 3 énumère quatre usages. a) Les systèmes d’IA destinés à être utilisés pour déterminer l’accès, l’admission ou l’affectation de personnes physiques à des établissements d’enseignement et de formation professionnelle, à tous les niveaux. b) Les systèmes d’IA destinés à être utilisés pour évaluer les acquis d’apprentissage, y compris lorsque ceux-ci sont utilisés pour orienter le processus d’apprentissage de personnes physiques. c) Les systèmes d’IA destinés à être utilisés pour évaluer le niveau d’enseignement approprié qu’une personne recevra ou sera en mesure d’atteindre. d) Les systèmes d’IA destinés à être utilisés pour surveiller et détecter des comportements interdits chez les étudiants lors d’examens. Chaque usage est lié à des établissements d’enseignement et de formation professionnelle à tous les niveaux. Le point 3 ne nomme pas, en tant que tels, la détection de plagiat ou de textes générés par l’IA, la prédiction du décrochage, les tableaux de bord d’apprentissage, les chatbots administratifs ni l’apprentissage adaptatif. Un système destiné à l’un de ces usages n’est à haut risque que si sa finalité prévue correspond à l’un des quatre usages, ou si un autre point de l’annexe III ou l’annexe I le couvre.

• L’inférence d’émotions dans les établissements d’enseignement : interdite, avec une exception pour des raisons médicales ou de sécurité

  L’article 5, paragraphe 1, point f), interdit la mise sur le marché, la mise en service à cette fin spécifique ou l’utilisation de systèmes d’IA pour inférer les émotions d’une personne physique sur le lieu de travail et dans les établissements d’enseignement, sauf lorsque l’utilisation du système d’IA est destinée à être mise en place ou mise sur le marché pour des raisons médicales ou de sécurité. L’interdiction s’applique à partir du 2 février 2025 (article 113, point a)). C’est une interdiction, et non un usage à haut risque : l’exception ne crée aucune obligation et n’est pas un point d’accroche de l’annexe III. Un manquement est sanctionné d’une amende pouvant atteindre 35 millions d’EUR ou, pour une entreprise, 7 % de son chiffre d’affaires annuel mondial total, le montant le plus élevé étant retenu (article 99, paragraphe 3). Pour les PME, y compris les jeunes pousses, chaque amende est plafonnée au plus faible des deux montants (article 99, paragraphe 6).

• L’article 6, paragraphe 3, peut sortir un système de l’annexe III

  Un système relevant du point 3 est à haut risque au titre de l’article 6, paragraphe 2. Par dérogation, un système d’IA visé à l’annexe III n’est pas considéré comme étant à haut risque au titre de l’article 6, paragraphe 3 lorsqu’il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux des personnes physiques, y compris en n’ayant pas d’incidence significative sur le résultat de la prise de décision. Cela s’applique lorsqu’une des quatre conditions suivantes est remplie : a) le système est destiné à accomplir une tâche procédurale étroite ; b) il est destiné à améliorer le résultat d’une activité humaine préalablement réalisée ; c) il est destiné à détecter les constantes en matière de prise de décision ou les écarts par rapport aux constantes habituelles antérieures et n’est pas destiné à se substituer à l’évaluation humaine préalablement réalisée, ni à influencer celle-ci, sans examen humain approprié ; ou d) il est destiné à exécuter une tâche préparatoire en vue d’une évaluation pertinente aux fins des cas d’utilisation visés à l’annexe III. Un système de l’annexe III est toujours à haut risque lorsqu’il effectue un profilage de personnes physiques (article 3, point 52), article 4, point 4), du RGPD). Le fournisseur qui considère que son système de l’annexe III n’est pas à haut risque documente son évaluation avant que le système ne soit mis sur le marché ou mis en service, et l’enregistre (article 6, paragraphe 4, article 49, paragraphe 2). Savoir si un système éducatif donné effectue un profilage relève d’un juriste.

• Fournisseur et déployeur

  Le fournisseur développe un système d’IA, ou le fait développer, et le met sur le marché ou le met en service sous son propre nom ou sa propre marque (article 3, point 3)). La mise en service inclut la fourniture pour usage propre (article 3, point 11)). Un établissement scolaire, une université ou un organisme d’examen qui utilise un système sous son autorité est un déployeur (article 3, point 4)). Une université qui développe un système et le met en service pour son usage propre sous son propre nom est donc un fournisseur. Un déployeur devient fournisseur d’un système à haut risque dans trois cas : il appose son nom ou sa marque sur un système déjà mis sur le marché, sans préjudice des dispositions contractuelles prévoyant une autre répartition des obligations ; il apporte une modification substantielle qui laisse le système à haut risque ; ou il modifie la finalité prévue d’un système qui n’était pas à haut risque, de sorte qu’il le devienne (article 25, paragraphe 1).

• Information des étudiants : article 26, paragraphe 11, et article 86, et non article 13

  L’article 13 n’exige aucune information des étudiants ni des parents. Selon l’article 26, paragraphe 11, et sans préjudice de l’article 50, les déployeurs de systèmes à haut risque visés à l’annexe III qui prennent des décisions ou facilitent les prises de décision concernant des personnes physiques informent lesdites personnes qu’elles sont soumises à l’utilisation du système d’IA à haut risque. L’article 86, paragraphe 1, donne à toute personne concernée faisant l’objet d’une décision prise par un déployeur sur la base des sorties d’un système de l’annexe III (à l’exception du point 2), qui produit des effets juridiques ou affecte significativement cette personne de façon similaire d’une manière qu’elle considère comme ayant des conséquences négatives sur sa santé, sa sécurité ou ses droits fondamentaux, le droit d’obtenir du déployeur des explications claires et pertinentes sur le rôle du système d’IA dans la procédure décisionnelle et sur les principaux éléments de la décision prise. L’article 86, paragraphes 2 et 3, prévoit des exceptions. L’article 85 permet à toute personne physique ou morale ayant des motifs de considérer qu’il y a eu violation du règlement de déposer une réclamation auprès de l’autorité de surveillance du marché.

• Dates

  Le chapitre III, sections 1 à 3, qui comprennent les articles 9 à 15, 17, 26 et 27, s’applique aux systèmes d’IA classés à haut risque au titre de l’article 6, paragraphe 2, et de l’annexe III à partir du 2 décembre 2027 (article 113, point c) i)). Un système à haut risque mis sur le marché ou mis en service avant cette date n’est couvert que si, à partir de cette date, sa conception subit d’importantes modifications. En tout état de cause, les fournisseurs et les déployeurs de systèmes d’IA à haut risque destinés à être utilisés par des autorités publiques prennent les mesures nécessaires pour se conformer aux exigences et obligations du règlement au plus tard le 2 août 2030 (article 111, paragraphe 2). Le règlement n’indique pas si cela vaut aussi pour les systèmes mis sur le marché ou mis en service après le 2 décembre 2027 ; c’est une question pour un juriste.

• Amendes

  Les fournisseurs doivent veiller à ce que leurs systèmes à haut risque respectent les exigences de la section 2 du chapitre III, qui comprend les articles 9 à 15 (article 16, point a)). Un manquement aux obligations du fournisseur de l’article 16 ou à celles du déployeur de l’article 26 peut être sanctionné d’une amende. Elle peut atteindre 15 millions d’EUR ou, pour une entreprise, 3 % de son chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu (article 99, paragraphe 4, points a) et e)). Pour les PME, y compris les jeunes pousses, chaque amende est plafonnée au plus faible des deux montants (article 99, paragraphe 6). Le même plafond vaut pour les petites ETI (« petites entreprises à moyenne capitalisation » dans le règlement ; article 3, point 14 ter), article 99, paragraphe 6 bis). Chaque État membre établit dans quelle mesure des amendes peuvent être imposées aux autorités publiques et aux organismes publics (article 99, paragraphe 8).

• Systèmes et usages hors du champ du règlement

  Le règlement s’applique aux fournisseurs établis ou situés dans l’Union ou dans un pays tiers qui mettent sur le marché ou mettent en service des systèmes d’IA dans l’Union, et aux fournisseurs et aux déployeurs de systèmes d’IA qui ont leur lieu d’établissement ou sont situés dans un pays tiers, lorsque les sorties produites par le système d’IA sont utilisées dans l’Union (article 2, paragraphe 1, points a) et c)). Il ne s’applique pas aux domaines qui ne relèvent pas du champ d’application du droit de l’Union et ne porte pas atteinte aux compétences des États membres en matière de sécurité nationale (article 2, paragraphe 3). Il ne s’applique pas aux systèmes d’IA si et dans la mesure où ils sont mis sur le marché, mis en service ou utilisés avec ou sans modifications exclusivement à des fins militaires, de défense ou de sécurité nationale, ni aux systèmes d’IA qui ne sont pas mis sur le marché ou mis en service dans l’Union, lorsque les sorties sont utilisées dans l’Union exclusivement à des fins de ce type (article 2, paragraphe 3). Il ne s’applique pas aux systèmes d’IA ou modèles d’IA, y compris à leurs sorties, spécifiquement développés et mis en service uniquement à des fins de recherche et développement scientifiques (article 2, paragraphe 6). Il ne s’applique pas aux activités de recherche, d’essai et de développement avant la mise sur le marché ou la mise en service d’un système ; les essais en conditions réelles ne sont pas couverts par cette exclusion (article 2, paragraphe 8). Il ne s’applique pas aux obligations incombant aux déployeurs qui sont des personnes physiques utilisant des systèmes d’IA dans le cadre d’une activité strictement personnelle à caractère non professionnel (article 2, paragraphe 10). Les systèmes d’IA publiés dans le cadre de licences libres et ouvertes sont hors du champ du règlement, sauf s’ils sont mis sur le marché ou mis en service en tant que systèmes d’IA à haut risque, ou s’ils relèvent de l’article 5 ou de l’article 50 (article 2, paragraphe 12).

• Pas de contenu propre à l’éducation pour la notice

  L’article 13, paragraphe 3, est la même liste pour tous les secteurs. Le règlement ne dit pas quels groupes d’étudiants l’information sur la performance doit couvrir ; il dit « le cas échéant » (article 13, paragraphe 3, point b) v)). Le règlement lui-même ne nomme aucune norme harmonisée. Les systèmes à haut risque conformes à des normes harmonisées dont les références sont publiées au Journal officiel sont présumés conformes aux exigences de la section 2, dans la mesure où ces normes les couvrent (article 40, paragraphe 1). La Commission élabore des lignes directrices sur l’application des articles 8 à 15, 25 et 26 (article 96, paragraphe 1, point a)).

• Exemple : la finalité prévue dans la notice

  Exemple, et non une exigence du règlement : pour un système qui aide le personnel à classer des candidatures, la notice pourrait indiquer dans la finalité prévue à quoi la sortie est destinée, afin que le déployeur puisse l’utiliser de manière appropriée (article 13, paragraphe 3, point b) i)).

• Exemple : circonstances connues pour la surveillance des examens

  Exemple, et non une exigence du règlement : pour un système qui détecte des comportements interdits lors d’examens, la notice pourrait nommer des circonstances connues qui peuvent avoir une incidence sur l’exactitude, comme les conditions dans lesquelles il a été testé et validé (article 13, paragraphe 3, point b) ii)).

• Article 13 règlement IA : transparence et notice d’utilisation

  L’article 13 pour tous les secteurs : exigences, dates et amendes.

• Règlement IA edtech : conformité éducation

  Vue d’ensemble de l’éducation : comment le règlement atteint l’IA d’admission, de notation, d’évaluation du niveau et de surveillance des examens.

• Article 14 pour l’IA dans l’éducation : contrôle humain

  L’IA dans l’éducation et l’article 14 : le contrôle humain dès la conception.

• Article 26 : obligations des déployeurs d’IA à haut risque

  Ce que les déployeurs de systèmes d’IA à haut risque doivent faire, y compris informer les personnes concernées.