Reglamento IA edtech: cumplimiento en educación

El Reglamento no tiene un régimen de educación aplicable a todo el sector. Este sitio usa la palabra para la IA que entra en el Reglamento por el anexo III, punto 3, titulado «Educación y formación profesional», y por las normas siguientes.

• Acceso y admisión: anexo III, punto 3, letra a)

  Los sistemas de IA destinados a ser utilizados para determinar el acceso o la admisión de personas físicas a centros educativos y de formación profesional a todos los niveles, o para distribuir a las personas físicas entre dichos centros, son de alto riesgo.

• Resultados del aprendizaje: anexo III, punto 3, letra b)

  Los sistemas de IA destinados a ser utilizados para evaluar los resultados del aprendizaje, también cuando dichos resultados se utilicen para orientar el proceso de aprendizaje de las personas físicas, son de alto riesgo.

• Nivel de educación: anexo III, punto 3, letra c)

  Los sistemas de IA destinados a ser utilizados para evaluar el nivel de educación adecuado que recibirá una persona o al que podrá acceder son de alto riesgo.

• Seguimiento durante los exámenes: anexo III, punto 3, letra d)

  Los sistemas de IA destinados a ser utilizados para el seguimiento y la detección de comportamientos prohibidos por parte de los estudiantes durante los exámenes son de alto riesgo. Cada uno de los cuatro usos está vinculado a centros educativos y de formación profesional a todos los niveles. El punto 3, letra d), menciona los exámenes.

• Usos que el punto 3 no menciona

  El punto 3 no menciona como tales el plagio ni la detección de textos generados por IA, la predicción del abandono escolar, los paneles de aprendizaje, los chatbots administrativos ni el aprendizaje adaptativo. Un sistema para uno de estos usos es de alto riesgo solo si su finalidad prevista coincide con uno de los puntos 3, letras a) a d), o si otro punto del anexo III o el anexo I lo cubre.

• El artículo 6, apartado 3, puede excluir un sistema del anexo III

  Un sistema del punto 3 es de alto riesgo con arreglo al artículo 6, apartado 2. Como excepción, un sistema del anexo III no es de alto riesgo con arreglo al artículo 6, apartado 3 cuando no plantee un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales de las personas físicas, también al no influir sustancialmente en el resultado de la toma de decisiones. Esto se aplica cuando se cumple cualquiera de las cuatro condiciones siguientes: a) que el sistema esté destinado a realizar una tarea de procedimiento limitada; b) que esté destinado a mejorar el resultado de una actividad humana previamente realizada; c) que esté destinado a detectar patrones de toma de decisiones o desviaciones con respecto a patrones de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana previamente realizada sin una revisión humana adecuada, ni a influir en ella; o d) que esté destinado a realizar una tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III. Un sistema del anexo III siempre es de alto riesgo cuando efectúa la elaboración de perfiles de personas físicas (artículo 3, punto 52, artículo 4, punto 4, del RGPD). El proveedor que considere que su sistema del anexo III no es de alto riesgo documenta su evaluación antes de introducir el sistema en el mercado o ponerlo en servicio, y lo registra (artículo 6, apartado 4, artículo 49, apartado 2). Si un sistema educativo concreto efectúa la elaboración de perfiles es una cuestión para un jurista.

• Inferir emociones en los centros educativos: prohibido, con una excepción por motivos médicos o de seguridad

  El artículo 5, apartado 1, letra f), prohíbe introducir en el mercado, poner en servicio para este fin específico o utilizar sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, excepto cuando el sistema de IA esté destinado a ser instalado o introducido en el mercado por motivos médicos o de seguridad. La prohibición se aplica desde el 2 de febrero de 2025 (artículo 113, letra a)). Es una prohibición, no un uso de alto riesgo: la excepción no crea ninguna obligación y no es un punto de conexión del anexo III. Una función de un sistema educativo que infiere las emociones de los estudiantes entra en la letra f), salvo que se aplique la excepción. El incumplimiento puede sancionarse con multas de hasta 35 millones de EUR o, si el infractor es una empresa, de hasta el 7 % de su volumen de negocios mundial total anual, si esta cuantía es superior (artículo 99, apartado 3). Para las pymes, incluidas las empresas emergentes, cada multa tiene como límite la cuantía menor de las dos (artículo 99, apartado 6).

• Otras normas del Reglamento que pueden alcanzar a la IA educativa

  El artículo 4 exige que los proveedores y los responsables del despliegue de sistemas de IA adopten medidas para apoyar la alfabetización en materia de IA de su personal y demás personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA; el capítulo I se aplica desde el 2 de febrero de 2025. El artículo 50 establece obligaciones de transparencia para los proveedores y los responsables del despliegue de determinados sistemas de IA; no menciona ningún caso educativo y se aplica desde la fecha general de aplicación, el 2 de agosto de 2026. El artículo 53 establece obligaciones para los proveedores de modelos de IA de uso general; no menciona ningún caso educativo.

El proveedor desarrolla un sistema de IA, o lo manda desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). La puesta en servicio incluye el suministro para uso propio (artículo 3, punto 11). Un centro escolar, una universidad o un organismo examinador que utiliza un sistema bajo su propia autoridad es un responsable del despliegue (artículo 3, punto 4). Una universidad que desarrolla un sistema y lo pone en servicio para su propio uso bajo su propio nombre es, por tanto, proveedor. El responsable del despliegue pasa a ser proveedor de un sistema de alto riesgo en tres casos: pone su nombre o marca en un sistema ya introducido en el mercado, sin perjuicio de los acuerdos contractuales que estipulen otra distribución de las obligaciones; realiza una modificación sustancial que deja el sistema como de alto riesgo; o modifica la finalidad prevista de un sistema que no es de alto riesgo de modo que pase a serlo (artículo 25, apartado 1).

El proveedor de un sistema educativo de alto riesgo tiene las obligaciones de diseño siguientes. Cada página enlazada en «Páginas por artículo para la educación» trata de una de ellas.

• art. 9
  Sistema de gestión de riesgos

  Un proceso iterativo continuo durante el ciclo de vida, con pruebas basadas en parámetros definidos de antemano y atención a las personas menores de 18 años.

• art. 10
  Datos y gobernanza de datos

  Conjuntos de datos de entrenamiento, validación y prueba que cumplan los criterios de calidad, con examen de sesgos y prácticas de gobernanza de datos.

• art. 12
  Conservación de registros

  El sistema debe permitir técnicamente el registro automático de acontecimientos (archivos de registro) a lo largo de su ciclo de vida.

• art. 13
  Transparencia e instrucciones de uso

  Un funcionamiento lo bastante transparente para que los responsables del despliegue interpreten los resultados de salida, con instrucciones de uso que contengan al menos los elementos del artículo 13, apartado 3.

• art. 14
  Supervisión humana

  Un diseño que permita la vigilancia efectiva por personas físicas mientras el sistema está en uso.

• art. 15
  Precisión, solidez y ciberseguridad

  Un nivel adecuado de precisión, solidez y ciberseguridad durante todo el ciclo de vida; los niveles de precisión y los parámetros pertinentes se declaran en las instrucciones de uso. Los responsables del despliegue no tienen ninguna obligación derivada del artículo 15.

• art. 17
  Sistema de gestión de la calidad

  Un sistema de gestión de la calidad documentado. Su aplicación es proporcional al tamaño de la organización del proveedor, en particular si es una pyme o una pequeña empresa de mediana capitalización, que deben respetar en todo caso el grado de rigor requerido (artículo 17, apartado 2).

• art. 43(2), 47–49
  Evaluación de la conformidad y registro

  Para los sistemas de los puntos 2 a 8 del anexo III, entre los que está el punto 3, el proveedor sigue el procedimiento de evaluación de la conformidad fundamentado en un control interno (anexo VI), sin organismo notificado (artículo 43, apartado 2). Elabora la declaración UE de conformidad (artículo 47), coloca el marcado CE (artículo 48) y se registra a sí mismo y registra el sistema en la base de datos de la UE (artículo 49, apartado 1) antes de introducir el sistema en el mercado o ponerlo en servicio.

• art. 26(1)–(3)
  Usar según las instrucciones, encomendar la supervisión

  Los responsables del despliegue adoptan medidas técnicas y organizativas adecuadas para utilizar el sistema con arreglo a las instrucciones de uso, y encomiendan la supervisión humana a personas físicas que tengan la competencia, la formación y la autoridad necesarias, así como el apoyo necesario. Estas obligaciones no afectan a otras obligaciones que el Derecho de la Unión o nacional imponga a los responsables del despliegue (artículo 26, apartados 1 a 3).

• art. 26(4)–(6)
  Datos de entrada, vigilancia y archivos de registro

  En la medida en que el responsable del despliegue ejerza el control sobre los datos de entrada, se asegura de que sean pertinentes y suficientemente representativos en vista de la finalidad prevista. Vigila el funcionamiento del sistema basándose en las instrucciones de uso y, cuando tenga motivos para considerar que utilizar el sistema conforme a las instrucciones puede dar lugar a un riesgo en el sentido del artículo 79, apartado 1, informa sin demora indebida al proveedor o distribuidor y a la autoridad de vigilancia del mercado, y suspende el uso. Conserva los archivos de registro bajo su control durante al menos seis meses, salvo que el Derecho de la Unión o nacional disponga otra cosa (artículo 26, apartados 4 a 6).

• art. 26(8)
  Autoridades públicas: registro

  Los responsables del despliegue que sean autoridades públicas, o instituciones, órganos y organismos de la Unión, cumplen las obligaciones de registro del artículo 49 y no utilizan un sistema que no haya sido registrado en la base de datos de la UE (artículo 26, apartado 8, artículo 49, apartado 3).

• art. 26(9)
  Evaluación de impacto relativa a la protección de datos, cuando proceda

  Cuando proceda, los responsables del despliegue utilizan la información facilitada conforme al artículo 13 para cumplir la obligación de llevar a cabo una evaluación de impacto relativa a la protección de datos con arreglo al artículo 35 del RGPD (artículo 26, apartado 9). Si existe esa obligación lo decide el Derecho de protección de datos.

• art. 26(11)
  Informar a las personas afectadas

  Sin perjuicio de lo dispuesto en el artículo 50, los responsables del despliegue de sistemas de alto riesgo del anexo III que tomen decisiones o ayuden a tomar decisiones relacionadas con personas físicas deben informarles de que están expuestas a la utilización del sistema (artículo 26, apartado 11). Es la obligación de información del Reglamento hacia los estudiantes. No es el artículo 50, apartado 1.

• art. 27
  Evaluación de impacto relativa a los derechos fundamentales

  Antes de desplegar un sistema de alto riesgo, los responsables del despliegue que sean organismos de Derecho público, o entidades privadas que prestan servicios públicos, llevan a cabo una evaluación del impacto en los derechos fundamentales y notifican sus resultados a la autoridad de vigilancia del mercado; en el caso contemplado en el artículo 46, apartado 1, los responsables del despliegue pueden quedar exentos de esa obligación de notificación. La obligación excluye el anexo III, punto 2, y abarca el punto 3 (artículo 27, apartados 1 y 3). El Reglamento no menciona ningún centro escolar ni universidad; si una institución concreta es un organismo de Derecho público o una entidad privada que presta servicios públicos es una cuestión de Derecho nacional y para un jurista.

• art. 86
  Derecho a explicación

  Toda persona afectada por una decisión que el responsable del despliegue adopte basándose en los resultados de salida de un sistema del anexo III (con excepción de su punto 2), y que produzca efectos jurídicos o le afecte considerablemente del mismo modo, de manera que considere que tiene un efecto perjudicial para su salud, su seguridad o sus derechos fundamentales, tiene derecho a obtener del responsable del despliegue explicaciones claras y significativas (artículo 86).

• art. 4
  Alfabetización en materia de IA del personal

  Los responsables del despliegue adoptan medidas para apoyar la alfabetización en materia de IA de su personal y demás personas que se encarguen en su nombre del funcionamiento y la utilización de sistemas de IA. La obligación no exige que garanticen un nivel específico de alfabetización en materia de IA de ninguna persona en particular (artículo 4).

• Fechas

  Las secciones 1 a 3 del capítulo III, que incluyen los artículos 9 a 15, 17, 26 y 27, se aplican a los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 2, y al anexo III desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)). Un sistema de alto riesgo introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si, a partir de ella, sufre cambios significativos en su diseño. En cualquier caso, los proveedores y los responsables del despliegue de los sistemas de IA de alto riesgo destinados a ser utilizados por las autoridades públicas deben adoptar las medidas necesarias para cumplir los requisitos y obligaciones establecidos en el Reglamento a más tardar el 2 de agosto de 2030 (artículo 111, apartado 2). El Reglamento no dice si esto se aplica también a los sistemas introducidos en el mercado o puestos en servicio después del 2 de diciembre de 2027; es una cuestión para un jurista.

• Multas

  Los proveedores deben velar por que sus sistemas de alto riesgo cumplan los requisitos de la sección 2 del capítulo III, que incluye los artículos 9 a 15 (artículo 16, letra a)). El incumplimiento de las obligaciones de los proveedores del artículo 16 o de las de los responsables del despliegue del artículo 26 puede sancionarse con multa. La multa es de hasta 15 millones de EUR o, si el infractor es una empresa, de hasta el 3 % de su volumen de negocios mundial total del ejercicio anterior, si esta cuantía es superior (artículo 99, apartado 4, letras a) y e)). Para las pymes, incluidas las empresas emergentes, cada multa tiene como límite la cuantía menor de las dos (artículo 99, apartado 6). Lo mismo rige para las pequeñas empresas de mediana capitalización (artículo 3, punto 14 ter, artículo 99, apartado 6 bis). Cada Estado miembro establece en qué medida pueden imponerse multas administrativas a las autoridades y organismos públicos (artículo 99, apartado 8).

• Sistemas y usos fuera del Reglamento

  El Reglamento se aplica a los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA en la Unión, con independencia de si están establecidos o ubicados en la Unión o en un tercer país, y a los proveedores y responsables del despliegue de sistemas de IA que estén establecidos o ubicados en un tercer país, cuando los resultados de salida generados por el sistema de IA se utilicen en la Unión (artículo 2, apartado 1, letras a) y c)). No se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión y, en cualquier caso, no afecta a las competencias de los Estados miembros en materia de seguridad nacional (artículo 2, apartado 3). No se aplica a los sistemas de IA que, y en la medida en que, se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificaciones, exclusivamente con fines militares, de defensa o de seguridad nacional, ni a los sistemas de IA que no se introduzcan en el mercado o no se pongan en servicio en la Unión en los casos en que sus resultados de salida se utilicen en la Unión exclusivamente con esos fines (artículo 2, apartado 3). No se aplica a los sistemas de IA o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la investigación y el desarrollo científicos como única finalidad (artículo 2, apartado 6). No se aplica a la actividad de investigación, prueba o desarrollo anterior a la introducción de un sistema en el mercado o su puesta en servicio; las pruebas en condiciones reales no están cubiertas por esa exclusión (artículo 2, apartado 8). No se aplica a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2, apartado 10). Los sistemas de IA publicados con arreglo a licencias libres y de código abierto quedan fuera del Reglamento, salvo que se introduzcan en el mercado o se pongan en servicio como sistemas de IA de alto riesgo, o entren en el ámbito de aplicación del artículo 5 o del artículo 50 (artículo 2, apartado 12).

• Sin valores específicos para la educación

  Más allá del anexo III, punto 3, y del artículo 5, apartado 1, letra f), el Reglamento no tiene ninguna norma específica para la educación. No menciona para la educación ningún valor de precisión, plazo de conservación más allá del mínimo de seis meses, frecuencia de pruebas ni umbral de sesgo. El Reglamento no menciona por sí mismo ninguna norma. Se presume que los sistemas de alto riesgo conformes con normas armonizadas publicadas en el Diario Oficial son conformes con los requisitos de la sección 2, en la medida en que esas normas los contemplen (artículo 40, apartado 1). La Comisión elabora directrices sobre la aplicación de los artículos 8 a 15, 25 y 26 (artículo 96, apartado 1, letra a)) y sobre las prácticas prohibidas (artículo 96, apartado 1, letra b)).

• Quién es un organismo de Derecho público

  El artículo 27, apartado 1, y el artículo 26, apartado 8, se aplican a los organismos de Derecho público, las entidades privadas que prestan servicios públicos y las autoridades públicas. El Reglamento no define estos términos para los centros escolares ni las universidades. El Derecho nacional decide cómo se clasifica una institución.

• Herramientas que no se mencionan

  Que un detector de plagio, un predictor del abandono escolar o una herramienta de aprendizaje adaptativo sea de alto riesgo depende de su finalidad prevista, tal como la fije el proveedor, leída con los puntos 3, letras a) a d). El Reglamento no ofrece una lista de esas herramientas.

Una página para cada artículo que más importa a los proveedores y a los responsables del despliegue en la educación.

• Artículo 9 para la IA educativa: sistema de gestión de riesgos

  Sistema de gestión de riesgos, incluidas las personas menores de 18 años.

• Artículo 10 para la IA educativa: datos y gobernanza de datos

  Conjuntos de datos, examen de sesgos y categorías especiales de datos personales.

• Artículo 12 para la IA educativa: conservación de registros

  Registro automático de acontecimientos y conservación de archivos de registro.

• Artículo 13 para la IA educativa: transparencia e información a los responsables del despliegue

  Instrucciones de uso e información a los responsables del despliegue.

• Artículo 14 para la IA educativa: supervisión humana

  Supervisión humana por diseño y papel del responsable del despliegue.

• Artículo 15 para la IA educativa: precisión, solidez y ciberseguridad

  Precisión, solidez y ciberseguridad.

• Artículo 17 para la IA educativa: sistema de gestión de la calidad

  Sistema de gestión de la calidad para proveedores.

• Artículo 26 en la educación: obligaciones de los responsables del despliegue

  Qué deben hacer los responsables del despliegue de sistemas de alto riesgo.

• Artículo 50 para la IA educativa: transparencia y divulgación

  Obligaciones de transparencia para determinados sistemas de IA.

• Artículo 53 en la educación: obligaciones de los proveedores de modelos de IA de uso general

  Obligaciones de los proveedores de modelos de IA de uso general.

• Anexo III en detalle: las 8 categorías de alto riesgo

  Las ocho áreas del anexo III, incluido el punto 3 sobre educación y formación profesional.

• Artículo 6: clasificación de sistemas IA de alto riesgo

  Cómo clasifica el artículo 6 los sistemas de IA de alto riesgo, incluida la excepción del artículo 6, apartado 3.

• Artículo 27: evaluación de impacto relativa a los derechos fundamentales

  La evaluación de impacto relativa a los derechos fundamentales para los responsables del despliegue que sean organismos de Derecho público o entidades privadas que prestan servicios públicos.

• Prácticas de IA prohibidas: artículo 5 del reglamento IA

  Las prácticas prohibidas del artículo 5, incluida la prohibición de inferir emociones en los centros educativos.