Article 13 : transparence de l'IA éducative — EU AI Act
Comment la transparence de l'article 13 du EU AI Act s'applique à l'IA éducative — divulgation adaptée à l'âge, transparence de la notation, explicabilité des admissions.
L'article 13 du EU AI Act exige que les systèmes d'IA à haut risque soient suffisamment transparents pour que les déployeurs puissent interpréter les sorties et les utiliser de manière appropriée. Dans l'éducation, la transparence protège les droits des élèves et des parents tout en permettant aux enseignants de prendre des décisions éclairées. Aux termes de l'Annexe III, Section 3, les systèmes d'IA déterminant l'accès ou l'admission aux établissements d'enseignement, évaluant les résultats d'apprentissage ou appréciant le niveau d'éducation approprié pour une personne sont classés à haut risque et soumis à l'intégralité des obligations de transparence de l'article 13.
Cette page explique comment les exigences de transparence de l'article 13 s'appliquent spécifiquement à l'IA de l'éducation — de l'admission à la notation — y compris la divulgation adaptée à l'âge, l'accompagnement des enseignants, la notification des parents et les violations au niveau du code que Scanara détecte dans les systèmes d'IA éducatifs.
Quels systèmes d'IA de l'éducation doivent être transparents ?
IA d'admission et d'inscription
Les systèmes d'IA qui présélectionnent, classent ou filtrent les candidats des établissements d'enseignement doivent expliquer quels critères ont motivé les décisions d'admission. “Notre système vous a jugé non éligible” sans justification n'est pas conforme à l'article 13(1).
Notation et évaluation assistées par IA
Les systèmes qui notent des dissertations, des examens ou des devoirs doivent être transparents quant aux critères d'évaluation et à la pondération utilisés. Les enseignants doivent comprendre les limites du modèle pour utiliser correctement les recommandations de notation de l'IA plutôt que de les traiter comme des verdicts définitifs.
Parcours d'apprentissage et recommandation de contenu
Les systèmes d'IA qui recommandent des supports d'apprentissage, ajustent les niveaux de difficulté ou personnalisent les programmes doivent être transparents quant au fondement des recommandations, en particulier lorsqu'elles affectent la progression scolaire ou l'orientation d'un élève.
Détection du plagiat et de l'intégrité académique
Les outils d'IA détectant le plagiat ou le contenu généré par IA doivent fournir des explications transparentes sur les raisons pour lesquelles un contenu a été signalé. Les élèves accusés de malhonnêteté académique doivent avoir accès au raisonnement derrière la détermination de l'IA, et non pas seulement à un score de similarité.
Systèmes de risque et d'alerte précoce pour les élèves
L'IA prédisant le risque de décrochage des élèves, les difficultés d'apprentissage ou les préoccupations comportementales doit fournir aux enseignants des indicateurs interprétables expliquant le fondement de la prédiction, permettant une intervention ciblée plutôt qu'un signalement opaque.
Principales obligations de transparence pour l'éducation
L'article 13 exige des instructions d'utilisation permettant aux déployeurs d'interpréter les sorties de l'IA de manière appropriée. Pour l'IA de l'éducation, cela signifie que les instructions doivent être compréhensibles par les enseignants, les administrateurs et — de manière cruciale — par les parents des mineurs, et pas seulement par le personnel technique. La transparence adaptée à l'âge est un défi distinctif dans ce secteur.
Transparence adaptée à l'âge pour les mineurs
Lorsque les systèmes d'IA traitent des données de mineurs, la transparence doit s'adresser aux parents ou tuteurs légaux, et pas seulement aux administrateurs de l'établissement. Les instructions d'utilisation doivent être compréhensibles par des parents sans formation technique, expliquant ce que fait l'IA, comment elle affecte l'éducation de leur enfant et quels sont leurs droits.
Les enseignants doivent comprendre les limites du modèle
L'article 13(1) exige que les sorties soient interprétables par les déployeurs. Les enseignants doivent comprendre que les recommandations de notation de l'IA ne sont pas infaillibles — les instructions doivent documenter les taux d'exactitude, les biais connus (langue, références culturelles, style d'écriture) et les cas où le jugement humain devrait outrepasser l'évaluation de l'IA.
Les élèves et les parents doivent être notifiés
L'article 50(1) exige que les personnes physiques interagissant avec un système d'IA soient informées de ce fait. Les élèves et les parents doivent être notifiés lorsque l'IA est utilisée dans les décisions d'admission, de notation ou d'orientation scolaire. La notification doit être opportune — avant ou au moment de la décision influencée par l'IA.
Les établissements doivent expliquer les décisions assistées par IA
En cas de contestation, les établissements doivent pouvoir expliquer pourquoi une décision assistée par IA a été prise. L'article 22 du GDPR donne aux personnes le droit de contester les décisions automatisées ayant des effets significatifs — l'orientation scolaire et la notation y répondent clairement. La transparence de l'article 13 permet à l'établissement de fournir cette explication.
Chevauchements réglementaires
La transparence de l'IA de l'éducation recoupe la protection des données des enfants, le droit anti-discrimination et les réglementations nationales en matière d'éducation. L'article 13 doit être coordonné avec ces obligations qui se chevauchent.
Articles 13/14 et article 22 du GDPR — Données des enfants
Le GDPR exige un langage clair et simple lorsqu'on fournit des informations aux enfants (Considérant 58). Les informations sur le traitement par IA des données des enfants doivent être adaptées à l'âge. L'article 22 du GDPR donne le droit de contester les décisions automatisées — les décisions d'IA éducative affectant la progression d'un enfant constituent des décisions ayant des “effets significatifs similaires”.
Lignes directrices du Conseil de l'Europe sur l'IA dans l'éducation
Les lignes directrices du Conseil de l'Europe sur l'IA et l'éducation soulignent la transparence comme principe fondamental, exigeant que l'IA éducative soit compréhensible par toutes les parties prenantes, y compris les élèves, les parents et les enseignants. Ces lignes directrices non contraignantes éclairent la mise en œuvre nationale et complètent les exigences contraignantes de l'article 13.
Droit national de l'éducation et réglementations des examens
De nombreux États membres de l'UE disposent de réglementations régissant l'équité des examens, les recours contre les notes et la transparence des admissions. Lorsque l'IA est utilisée dans ces processus, les obligations nationales de transparence existantes (par exemple, le droit de consulter les copies d'examen et de comprendre les critères de notation) doivent être étendues pour inclure des informations spécifiques à l'IA sur le rôle du système.
Recommandation de l'UNESCO sur l'éthique de l'IA
La Recommandation de l'UNESCO sur l'éthique de l'IA met en évidence l'éducation comme domaine prioritaire nécessitant de la transparence, en particulier concernant les biais algorithmiques dans l'évaluation et le potentiel de l'IA à renforcer les inégalités éducatives. Ces principes éclairent l'esprit de la mise en œuvre de l'article 13 dans l'éducation.
Violations courantes détectées par Scanara
Notation par IA sans transparence des critères
Points de terminaison de notation renvoyant des scores ou des notes sans explication accompagnatrice des critères d'évaluation ayant contribué au résultat. L'article 13(1) exige des sorties interprétables — Scanara signale les API d'évaluation qui ne renvoient que des scores numériques sans explication au niveau des grilles.
Absence de divulgation de l'IA dans les interfaces destinées aux élèves
Plateformes d'apprentissage et outils d'évaluation qui utilisent l'IA sans notifier les élèves ou les parents. Scanara détecte les pages destinées aux élèves et les points de terminaison d'API qui déclenchent un traitement par IA sans composant de divulgation ni mécanisme de notification.
Rejet d'admission sans explication des facteurs
Points de terminaison de décision d'admission qui renvoient des statuts de rejet sans expliquer quels facteurs ont contribué à la décision. Les candidats et leurs parents doivent pouvoir comprendre le fondement d'une décision d'admission assistée par IA au titre de l'article 13 et de l'article 22 du GDPR.
Instructions d'utilisation dépourvues de section sur les limites
Documentation système décrivant les capacités d'évaluation de l'IA sans documenter les limites connues telles que le biais linguistique, le traitement des références culturelles ou la dégradation de l'exactitude pour les formats de soumission non standard. L'article 13(3)(b)(i) exige la divulgation des limites et des mauvais usages prévisibles.
Liste de contrôle de conformité à l'article 13 pour l'éducation
Rendre les évaluations de l'IA interprétables pour les enseignants
Veillez à ce que les enseignants puissent comprendre le fondement des recommandations de notation de l'IA, y compris quels critères ont contribué au score et comment ils ont été pondérés. Fournissez une transparence au niveau des grilles à côté de chaque sortie d'évaluation de l'IA.
Notifier les élèves et les parents de l'utilisation de l'IA
Informez les élèves et les parents lorsque l'IA est utilisée dans l'admission, la notation ou l'orientation scolaire. Pour les mineurs, les notifications doivent être adressées aux parents dans un langage clair et non technique.
Fournir des instructions d'utilisation adaptées à l'âge
Documentez les capacités du système, les limites et l'utilisation prévue dans un langage compréhensible par des parents sans formation technique. Incluez les indicateurs d'exactitude, les biais connus et des orientations sur les cas où le jugement de l'enseignant devrait outrepasser les recommandations de l'IA.
Permettre la contestation des décisions de l'IA
Veillez à ce que la transparence fournie au titre de l'article 13 soit suffisante pour que les élèves et les parents puissent contester les décisions assistées par IA. L'établissement doit pouvoir expliquer la contribution de l'IA à toute décision affectant la progression scolaire.
Divulguer l'exactitude et les limites de l'évaluation
Rapportez l'exactitude de la notation, la fiabilité inter-évaluateurs avec les correcteurs humains et les variations de performance connues selon les profils démographiques des élèves, les langues et les formats de soumission. Documentez les conditions dans lesquelles l'évaluation par IA peut être moins fiable.
Questions fréquemment posées
Ressources connexes
Article 13 : Transparence
Exigences complètes de l'article 13 dans tous les secteurs.
IA de l'éducation — Pôle sectoriel
Guide complet de conformité au EU AI Act pour les systèmes d'IA de l'éducation.
Article 12 : Tenue de registres pour l'éducation
Exigences de journalisation et de tenue de registres pour l'IA de l'éducation.
Article 14 : Contrôle humain pour l'éducation
Obligations de contrôle humain pour les systèmes d'IA de l'éducation.
Comment Scanara vous aide
Scanara automatise la conformité au règlement sur l'IA du code au dossier. Connectez vos repos GitHub et obtenez des rapports de conformité en quelques minutes.