Skip to main content

Artículo 15 para la IA educativa: precisión, solidez y ciberseguridad

Cómo se aplica el artículo 15 (precisión, solidez, ciberseguridad) a la IA educativa: la vía del anexo III, punto 3, las fechas, las funciones de proveedor y responsable del despliegue, y las multas.

Los proveedores de sistemas de IA de alto riesgo, como el software de admisión, deben diseñarlos con precisión, solidez y ciberseguridad adecuadas (artículo 15).

El Reglamento no tiene un régimen sectorial de la educación; la vía es el anexo III, punto 3, «Educación y formación profesional», desde el 2 de diciembre de 2027. El proveedor indica los niveles y parámetros de precisión en las instrucciones de uso (artículo 15, apartado 3). Las multas llegan a 15 millones de EUR o, para una empresa, al 3 % del volumen de negocios anual mundial, si esta cifra es mayor (artículo 99, apartado 4). Siguiente paso: haga una lista de los parámetros que declarará.

El artículo 15 pide un nivel adecuado, no una cifra fija

El artículo 15 fija requisitos de diseño para el proveedor. No nombra ningún valor de precisión para ningún sector.

  • art. 15(1)
    Nivel adecuado durante todo el ciclo de vida

    Los sistemas de IA de alto riesgo deben diseñarse y desarrollarse para alcanzar un nivel adecuado de precisión, solidez y ciberseguridad, y funcionar de manera uniforme en ese sentido durante todo su ciclo de vida.

  • art. 15(2)
    La Comisión fomenta los puntos de referencia

    La Comisión fomentará, según proceda, el desarrollo de parámetros de referencia y metodologías de medición, en cooperación con partes interesadas como las autoridades de metrología y evaluación comparativa. No es una obligación del proveedor.

  • art. 15(3)
    Declarar niveles y parámetros

    Los niveles de precisión y los parámetros de precisión pertinentes deben indicarse en las instrucciones de uso que acompañan al sistema.

  • art. 15(4)
    Resiliencia ante errores y bucles de retroalimentación

    Los sistemas deben ser lo más resilientes posible frente a errores, fallos e incoherencias que puedan darse en el sistema o en su entorno, en particular por su interacción con personas físicas u otros sistemas. Deben adoptarse medidas técnicas y organizativas; se citan como opciones la redundancia técnica y los planes de copia de seguridad o a prueba de fallos. Un sistema que sigue aprendiendo tras su introducción en el mercado debe desarrollarse de modo que se elimine o reduzca en lo posible el riesgo de que salidas sesgadas influyan en entradas futuras (bucles de retroalimentación).

  • art. 15(5)
    Ciberseguridad frente a terceros no autorizados

    Los sistemas deben resistir los intentos de terceros no autorizados de alterar su uso, sus resultados o su funcionamiento aprovechando vulnerabilidades. Las soluciones técnicas incluirán, cuando proceda, medidas contra el envenenamiento de datos, el envenenamiento del modelo, los ejemplos adversarios o la evasión del modelo, los ataques a la confidencialidad y los defectos del modelo.

Qué IA educativa debe cumplir el artículo 15

El artículo 15 solo obliga a los sistemas de IA de alto riesgo. Las filas siguientes muestran dónde la IA educativa pasa a ser de alto riesgo.

  • Dónde está la educación en el Reglamento

    El Reglamento no tiene un régimen sectorial de la educación. Este sitio usa «educación» para la IA empleada en escuelas, universidades, formación profesional y exámenes. Esta IA llega al Reglamento por el anexo III, punto 3, titulado «Educación y formación profesional», y por la prohibición de inferir emociones en centros educativos (artículo 5, apartado 1, letra f)). El punto 3 no nombra la detección de plagio, la predicción del abandono, las plataformas de aprendizaje adaptativo, los paneles de aprendizaje ni los chatbots administrativos; que un sistema entre en él se deduce de la finalidad prevista (artículo 3, punto 12). Un sistema también puede ser de alto riesgo con arreglo a otro punto del anexo III.

  • Anexo III, punto 3: cuatro usos

    El anexo III, punto 3 abarca los sistemas de IA destinados a ser utilizados: a) para determinar el acceso o la admisión de personas físicas a centros educativos y de formación profesional a todos los niveles o para distribuir a las personas físicas entre dichos centros; b) para evaluar los resultados del aprendizaje, también cuando dichos resultados se utilicen para orientar el proceso de aprendizaje de las personas físicas en centros educativos y de formación profesional a todos los niveles; c) para evaluar el nivel de educación adecuado que recibirá una persona o al que podrá acceder, en el contexto de dichos centros o dentro de estos; d) para el seguimiento y la detección de comportamientos prohibidos por parte de los estudiantes durante los exámenes, en el contexto de dichos centros o dentro de estos. Con arreglo al artículo 6, apartado 2, los sistemas de IA mencionados en el anexo III se consideran de alto riesgo. El proveedor que considere que un sistema de ese tipo no es de alto riesgo con arreglo al artículo 6, apartado 3 debe documentar su evaluación antes de que el sistema se introduzca en el mercado o se ponga en servicio, y registrarlo conforme al artículo 49, apartado 2. La excepción nunca se aplica cuando el sistema efectúa la elaboración de perfiles de personas físicas. La elaboración de perfiles es la definida en el artículo 4, punto 4, del Reglamento (UE) 2016/679 (artículo 3, punto 52).

  • Proveedor y responsable del despliegue

    El proveedor desarrolla el sistema de IA, o lo manda desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre (artículo 3, punto 3); puede ser un proveedor de tecnología educativa o una universidad que desarrolla un sistema para uso propio. Una persona física o jurídica, autoridad pública, agencia u otro organismo que utiliza un sistema bajo su autoridad, como una escuela, una universidad o un organismo examinador, es un responsable del despliegue (artículo 3, punto 4). Pasa a ser proveedor si pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, realiza una modificación sustancial que lo deja como de alto riesgo, o cambia la finalidad prevista de un sistema que no era de alto riesgo de modo que pase a serlo (artículo 25, apartado 1).

  • Fechas

    El anexo III, punto 3 se aplica desde el 2 de diciembre de 2027 (artículo 113, letra c)). Un sistema introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si, a partir de ella, sufre cambios significativos en su diseño. En el mismo apartado, la frase «en cualquier caso» dispone que los proveedores y responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas adopten las medidas necesarias para cumplir antes del 2 de agosto de 2030 (artículo 111, apartado 2). El Reglamento no dice si esto alcanza también a sistemas introducidos en el mercado después del 2 de diciembre de 2027; consulte a un asesor jurídico.

  • Multas

    El incumplimiento de las obligaciones de los proveedores (artículo 16) y de los responsables del despliegue (artículo 26) puede sancionarse con multas de hasta 15 millones de EUR o, si el infractor es una empresa, de hasta el 3 % de su volumen de negocios mundial total del ejercicio anterior, si esta cuantía es superior (artículo 99, apartado 4). Para las pymes, incluidas las empresas emergentes, cada multa tiene como límite la cuantía menor (artículo 99, apartado 6). El mismo límite rige para las pequeñas empresas de mediana capitalización (artículo 3, punto 14 ter, artículo 99, apartado 6 bis). Cada Estado miembro establecerá normas sobre en qué medida pueden imponerse multas administrativas a las autoridades y organismos públicos establecidos en dicho Estado miembro (artículo 99, apartado 8).

  • Límites del ámbito de aplicación del Reglamento

    El Reglamento se aplica a los proveedores que introduzcan en el mercado o pongan en servicio sistemas de IA en la Unión, o introduzcan en el mercado modelos de IA de uso general en la Unión, con independencia de dónde estén establecidos (artículo 2, apartado 1, letra a)), y a los proveedores y responsables del despliegue establecidos en un tercer país cuando los resultados del sistema de IA se utilicen en la Unión (letra c)). No se aplica a los ámbitos que queden fuera del Derecho de la Unión ni afecta a las competencias de los Estados miembros en materia de seguridad nacional; tampoco se aplica a los sistemas de IA destinados exclusivamente a fines militares, de defensa o de seguridad nacional (artículo 2, apartado 3). El Reglamento no se aplica a los sistemas o modelos de IA, incluidos sus resultados, desarrollados y puestos en servicio específicamente con la finalidad exclusiva de la investigación y el desarrollo científicos (artículo 2, apartado 6). Tampoco se aplica a las actividades de investigación, prueba o desarrollo previas a la introducción en el mercado o la puesta en servicio de un sistema o modelo; las pruebas en condiciones reales no quedan cubiertas por esa exclusión (artículo 2, apartado 8). No se aplica a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2, apartado 10). No se aplica a los sistemas de IA divulgados con arreglo a licencias libres y de código abierto, a menos que se introduzcan en el mercado o se pongan en servicio como sistemas de IA de alto riesgo o como sistemas de IA que entren en el ámbito del artículo 5 o 50 (artículo 2, apartado 12).

Lo que el Reglamento deja abierto para la educación

  • Sin valores de precisión para la educación

    El artículo 15 no nombra ningún parámetro de precisión, valor mínimo, método de prueba ni norma para ningún sector, ni para los sistemas de admisión, calificación o vigilancia de exámenes. El proveedor declara los niveles y los parámetros pertinentes (artículo 15, apartado 3). Las normas armonizadas cuyas referencias se publican en el Diario Oficial dan presunción de conformidad en la medida en que cubran los requisitos (artículo 40, apartado 1); un certificado de ciberseguridad publicado con arreglo al Reglamento (UE) 2019/881 la da para los requisitos de ciberseguridad en la medida en que los cubra (artículo 42, apartado 2). Se considera que los sistemas incluidos en el ámbito de aplicación del Reglamento (UE) 2024/2847 que cumplan las condiciones del artículo 12, apartado 1, de dicho Reglamento cumplen los requisitos de ciberseguridad del artículo 15 (artículo 42, apartado 3). La Comisión elaborará directrices sobre la aplicación de los requisitos y obligaciones de los artículos 8 a 15 y 25 y 26 (artículo 96, apartado 1, letra a)).

  • Ejemplo: parámetros de un modelo de calificación

    Ejemplo, no un requisito del Reglamento: el proveedor de un sistema que evalúa resultados del aprendizaje podría declarar qué parámetros de precisión midió e indicar la población de estudiantes y el tipo de evaluación con los que se midieron.

  • Ejemplo: bucles de retroalimentación

    Ejemplo, no un requisito del Reglamento: el proveedor de un sistema que sigue aprendiendo tras su introducción en el mercado (artículo 15, apartado 4) podría comprobar si las salidas que vuelven como entradas posteriores cambian los resultados para determinados grupos de estudiantes, y conservar los resultados.

Preguntas sobre el artículo 15 en la educación

¿Fija el artículo 15 valores de precisión para los sistemas de admisión o calificación?

No. artículo 15, apartado 1 exige un nivel adecuado, y artículo 15, apartado 3 exige que el proveedor declare los niveles y los parámetros pertinentes en las instrucciones de uso. El Reglamento no nombra ningún valor, parámetro ni método de prueba para la educación.

¿Se aplica el artículo 15 a los detectores de plagio?

El artículo 15 obliga a los sistemas de IA de alto riesgo. El anexo III, punto 3, letra d) abarca el seguimiento y la detección de comportamientos prohibidos de los estudiantes durante los exámenes; el Reglamento no nombra la detección de plagio. Que un detector concreto sea de alto riesgo depende de su finalidad prevista frente al anexo III (artículo 6, apartado 2).

¿Quién debe cumplir el artículo 15 cuando una escuela compra una herramienta de admisión?

El proveedor diseña el sistema para cumplir el artículo 15 (artículo 16, letra a)). La escuela es responsable del despliegue y utiliza el sistema con arreglo a las instrucciones de uso (artículo 26, apartado 1). Un responsable del despliegue que pone su nombre en el sistema, realiza una modificación sustancial o cambia la finalidad prevista pasa a ser el proveedor (artículo 25, apartado 1).

Páginas relacionadas

Scanara prepara pruebas a partir de sus repositorios

Scanara lee sus repositorios de GitHub conectados y ejecuta análisis basados en reglas de patrones habituales de IA y aprendizaje automático. Puede pasar por alto código no estándar. Por separado, genera borradores de documentación a partir de plantillas y de sus respuestas en las evaluaciones, como pruebas para su trabajo de cumplimiento. Usted decide la clasificación.