Artículo 13: transparencia en la IA educativa
Transparencia del artículo 13 del Reglamento de IA en la IA educativa: divulgación adaptada a la edad, transparencia de calificaciones y explicabilidad de admisiones.
El artículo 13 del EU AI Act exige que los sistemas de IA de alto riesgo sean suficientemente transparentes para que los responsables del despliegue puedan interpretar las salidas y utilizarlas adecuadamente. En la educación, la transparencia protege los derechos de los estudiantes y los padres, al tiempo que permite a los educadores tomar decisiones informadas. Conforme al Anexo III, Sección 3, los sistemas de IA que determinan el acceso o la admisión a instituciones educativas, evalúan los resultados del aprendizaje o valoran el nivel educativo adecuado para una persona se clasifican como de alto riesgo y están sujetos a la totalidad de las obligaciones de transparencia del artículo 13.
Esta página explica cómo los requisitos de transparencia del artículo 13 se aplican específicamente a la IA de la educación — desde la admisión hasta la calificación — incluidas la divulgación adaptada a la edad, la orientación al profesorado, la notificación a los padres y qué infracciones a nivel de código detecta Scanara en los sistemas de IA educativos.
¿Qué sistemas de IA de la educación deben ser transparentes?
IA de admisión y matriculación
Los sistemas de IA que criban, clasifican o filtran a los solicitantes de instituciones educativas deben explicar qué criterios impulsaron las decisiones de admisión. “Nuestro sistema le consideró no idóneo” sin fundamentación no es conforme al artículo 13(1).
Calificación y evaluación asistidas por IA
Los sistemas que puntúan ensayos, exámenes o trabajos deben ser transparentes respecto a los criterios de evaluación y la ponderación utilizados. El profesorado debe comprender las limitaciones del modelo para utilizar correctamente las recomendaciones de calificación de la IA en lugar de tratarlas como veredictos definitivos.
Itinerario de aprendizaje y recomendación de contenidos
Los sistemas de IA que recomiendan materiales de aprendizaje, ajustan los niveles de dificultad o personalizan los currículos deben ser transparentes respecto al fundamento de las recomendaciones, en particular cuando afectan a la progresión educativa o a la asignación de itinerario de un estudiante.
Detección de plagio e integridad académica
Las herramientas de IA que detectan plagio o contenido generado por IA deben proporcionar explicaciones transparentes de por qué se marcó el contenido. Los estudiantes acusados de deshonestidad académica deben tener acceso al razonamiento detrás de la determinación de la IA, no solo a una puntuación de similitud.
Sistemas de riesgo y alerta temprana del estudiante
La IA que predice el riesgo de abandono escolar, las dificultades de aprendizaje o las preocupaciones conductuales debe proporcionar a los educadores indicadores interpretables que expliquen el fundamento de la predicción, permitiendo una intervención específica en lugar de un marcado opaco.
Obligaciones clave de transparencia para la educación
El artículo 13 exige instrucciones de uso que permitan a los responsables del despliegue interpretar adecuadamente las salidas de la IA. Para la IA de la educación, esto significa que las instrucciones deben ser comprensibles para el profesorado, los administradores y — de forma crítica — para los padres de menores, no solo para el personal técnico. La transparencia adaptada a la edad es un desafío distintivo en este sector.
Transparencia adaptada a la edad para menores
Cuando los sistemas de IA tratan datos de menores, la transparencia debe dirigirse a los padres o tutores legales, no solo a los administradores de la institución. Las instrucciones de uso deben ser comprensibles para padres sin formación técnica, explicando qué hace la IA, cómo afecta a la educación de su hijo y qué derechos tienen.
El profesorado debe comprender las limitaciones del modelo
El artículo 13(1) exige que las salidas sean interpretables por los responsables del despliegue. El profesorado debe comprender que las recomendaciones de calificación de la IA no son infalibles — las instrucciones deben documentar las tasas de exactitud, los sesgos conocidos (idioma, referencias culturales, estilo de redacción) y cuándo el juicio humano debería anular la evaluación de la IA.
Los estudiantes y los padres deben ser notificados
El artículo 50(1) exige que las personas físicas que interactúan con un sistema de IA sean informadas de ese hecho. Los estudiantes y los padres deben ser notificados cuando se utilice IA en decisiones de admisión, calificación o ubicación educativa. La notificación debe ser oportuna — antes o en el momento de la decisión influida por la IA.
Las instituciones deben explicar las decisiones asistidas por IA
Cuando se impugne, las instituciones deben poder explicar por qué se tomó una decisión asistida por IA. El artículo 22 del GDPR otorga a las personas el derecho a impugnar decisiones automatizadas con efectos significativos — la ubicación educativa y la calificación claramente cumplen este criterio. La transparencia del artículo 13 permite a la institución proporcionar esta explicación.
Solapamientos normativos
La transparencia de la IA de la educación se cruza con la protección de datos de los menores, el derecho antidiscriminación y las normativas nacionales de educación. El artículo 13 debe coordinarse con estas obligaciones solapadas.
Artículos 13/14 y artículo 22 del GDPR — Datos de menores
El GDPR exige un lenguaje claro y sencillo al proporcionar información a los menores (Considerando 58). La información sobre el tratamiento por IA de los datos de los menores debe adaptarse a la edad. El artículo 22 del GDPR otorga el derecho a impugnar decisiones automatizadas — las decisiones de IA educativa que afectan a la progresión de un menor constituyen decisiones con “efectos significativos similares”.
Directrices del Consejo de Europa sobre la IA en la educación
Las directrices del Consejo de Europa sobre la IA y la educación subrayan la transparencia como principio fundamental, exigiendo que la IA educativa sea comprensible para todas las partes interesadas, incluidos estudiantes, padres y educadores. Estas directrices no vinculantes orientan la implementación nacional y complementan los requisitos vinculantes del artículo 13.
Derecho nacional de la educación y normativas de exámenes
Muchos Estados miembros de la UE tienen normativas que regulan la equidad de los exámenes, los recursos de calificación y la transparencia de las admisiones. Cuando se utiliza IA en estos procesos, las obligaciones nacionales de transparencia existentes (por ejemplo, el derecho a revisar los exámenes y comprender los criterios de calificación) deben ampliarse para incluir información específica de la IA sobre el papel del sistema.
Recomendación de la UNESCO sobre la ética de la IA
La Recomendación de la UNESCO sobre la ética de la IA destaca la educación como área prioritaria que requiere transparencia, en particular respecto al sesgo algorítmico en la evaluación y el potencial de la IA para reforzar las desigualdades educativas. Estos principios orientan el espíritu de la implementación del artículo 13 en la educación.
Infracciones comunes que detecta Scanara
Calificación por IA sin transparencia de criterios
Puntos de conexión de calificación que devuelven puntuaciones o notas sin explicación acompañante de qué criterios de evaluación contribuyeron al resultado. El artículo 13(1) exige salidas interpretables — Scanara marca las API de evaluación que devuelven únicamente puntuaciones numéricas sin explicación a nivel de rúbrica.
Ausencia de divulgación de IA en interfaces orientadas al estudiante
Plataformas de aprendizaje y herramientas de evaluación que utilizan IA sin notificar a los estudiantes o a los padres. Scanara detecta páginas orientadas al estudiante y puntos de conexión de API que inician el tratamiento por IA sin un componente de divulgación o mecanismo de notificación.
Rechazo de admisión sin explicación de factores
Puntos de conexión de decisión de admisión que devuelven estados de rechazo sin explicar qué factores contribuyeron a la decisión. Los solicitantes y sus padres deben poder comprender el fundamento de una decisión de admisión asistida por IA conforme al artículo 13 y al artículo 22 del GDPR.
Instrucciones de uso sin sección de limitaciones
Documentación del sistema que describe las capacidades de evaluación de la IA sin documentar limitaciones conocidas como el sesgo lingüístico, el manejo de referencias culturales o la degradación de la exactitud para formatos de entrega no estándar. El artículo 13(3)(b)(i) exige la divulgación de las limitaciones y el uso indebido previsible.
Lista de verificación de cumplimiento del artículo 13 para la educación
Hacer interpretables las evaluaciones de la IA para los educadores
Garantice que el profesorado pueda comprender el fundamento de las recomendaciones de calificación de la IA, incluidos qué criterios contribuyeron a la puntuación y cómo se ponderaron. Proporcione transparencia a nivel de rúbrica junto a cada salida de evaluación de la IA.
Notificar a los estudiantes y a los padres el uso de la IA
Informe a los estudiantes y a los padres cuando se utilice IA en la admisión, la calificación o la ubicación educativa. Para los menores, las notificaciones deben dirigirse a los padres en un lenguaje claro y no técnico.
Proporcionar instrucciones de uso adaptadas a la edad
Documente las capacidades del sistema, las limitaciones y el uso previsto en un lenguaje comprensible para padres sin formación técnica. Incluya métricas de exactitud, sesgos conocidos y orientación sobre cuándo el juicio del educador debería anular las recomendaciones de la IA.
Permitir la impugnación de las decisiones de la IA
Garantice que la transparencia proporcionada conforme al artículo 13 sea suficiente para que los estudiantes y los padres impugnen las decisiones asistidas por IA. La institución debe poder explicar la contribución de la IA a cualquier decisión que afecte a la progresión educativa.
Divulgar la exactitud y las limitaciones de la evaluación
Informe sobre la exactitud de la calificación, la fiabilidad entre evaluadores con correctores humanos y las variaciones de rendimiento conocidas según los perfiles demográficos de los estudiantes, los idiomas y los formatos de entrega. Documente las condiciones en las que la evaluación por IA puede ser menos fiable.
Preguntas frecuentes
Recursos relacionados
Artículo 13: Transparencia
Requisitos completos del artículo 13 en todos los sectores.
IA de la educación — Centro sectorial
Guía completa de cumplimiento del EU AI Act para los sistemas de IA de la educación.
Artículo 12: Conservación de registros para la educación
Requisitos de registro y conservación de registros para la IA de la educación.
Artículo 14: Supervisión humana para la educación
Obligaciones de supervisión humana para los sistemas de IA de la educación.
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.