Skip to main content

Artículo 15 reglamento IA: precisión, solidez y ciberseguridad

El artículo 15 exige a los sistemas de IA de alto riesgo una precisión, solidez y ciberseguridad adecuadas. Esta guía cubre los requisitos y formas habituales de probarlos.

Los proveedores deben diseñar los sistemas de IA de alto riesgo para un nivel adecuado de precisión, solidez y ciberseguridad (artículo 15).

El nivel debe mantenerse durante todo el ciclo de vida del sistema. Los proveedores deben indicar los niveles y parámetros de precisión en las instrucciones de uso (artículo 15(3)). Esto afecta a los sistemas introducidos en el mercado o puestos en servicio en la UE. Se aplica desde el 2 de diciembre de 2027 (anexo III) y desde el 2 de agosto de 2028 (anexo I). Las multas pueden alcanzar 15 millones de EUR o el 3 % del volumen de negocios anual mundial, si esta cuantía es superior (artículo 99(4)). Siguiente paso: elija sus parámetros de precisión y pruébelos.

El artículo 15 en cinco puntos

El artículo 15(1) exige un nivel adecuado de precisión, solidez y ciberseguridad, y un funcionamiento uniforme durante todo el ciclo de vida. Los cinco puntos siguientes agrupan los apartados 3 a 5. El Reglamento fija objetivos, no métodos de prueba ni umbrales. La Comisión fomenta el desarrollo de parámetros de referencia y metodologías de medición junto con las autoridades de metrología y de evaluación comparativa (artículo 15(2)).

Niveles y parámetros de precisión declarados

Indique los niveles de precisión y los parámetros pertinentes para medirla en las instrucciones de uso (artículo 15(3)).

Resistencia a errores y fallos

Haga el sistema lo más resistente posible a errores, fallos o incoherencias del propio sistema o de su entorno, también por su interacción con personas u otros sistemas. Adopte medidas técnicas y organizativas; la redundancia técnica, como copias de seguridad o planes de prevención contra fallos, puede lograr la solidez (artículo 15(4)).

Control de los bucles de retroalimentación

Si el sistema sigue aprendiendo tras su introducción en el mercado o puesta en servicio, elimine o reduzca lo máximo posible el riesgo de que resultados sesgados influyan en las entradas futuras (bucles de retroalimentación). Subsane esos bucles con medidas de reducción de riesgos (artículo 15(4)).

Resistencia frente a terceros no autorizados

El sistema debe resistir los intentos de terceros no autorizados de alterar su uso, sus resultados o su funcionamiento aprovechando sus vulnerabilidades. Las soluciones de ciberseguridad deben ser adecuadas a las circunstancias y los riesgos (artículo 15(5)).

Medidas contra ataques específicos de la IA

Incluya, según corresponda, medidas para prevenir, detectar, combatir, resolver y controlar los ataques y defectos que nombra el artículo 15(5). Son el envenenamiento de datos (datos de entrenamiento manipulados), el envenenamiento de modelos (componentes preentrenados manipulados), los ejemplos adversarios o la evasión de modelos (entradas diseñadas para provocar errores), los ataques a la confidencialidad y los defectos del modelo.

Cuatro pasos de ingeniería que respaldan el artículo 15

El artículo 15 no prescribe ningún método de prueba. Estos pasos son formas habituales de demostrar que se cumplen los requisitos.

Pruebas adversarias en CI

Ejecute pruebas de solidez adversarias en su canalización CI/CD: genere ejemplos adversarios, pruebe los límites del modelo y compruebe las defensas frente a patrones de ataque conocidos.

Evaluación comparativa de la precisión

Mida la precisión con los parámetros que haya declarado, para cada versión del modelo, conjunto de datos y entorno de despliegue, a fin de detectar degradaciones.

Redundancia y diseño a prueba de fallos

Cree alternativas para los caminos críticos: modelos de reserva, monitores de seguridad y traspaso a una persona cuando la confianza baje de un umbral que usted fije.

Seguridad de la cadena de suministro del modelo

Analice las dependencias y los modelos base en busca de vulnerabilidades y verifique el origen de los modelos externos y la integridad de las canalizaciones de entrenamiento.

Las instrucciones de uso indican el nivel probado y el esperado

Las instrucciones de uso deben indicar el nivel de precisión, solidez y ciberseguridad con el que se probó y validó el sistema y que puede esperarse. También deben indicar las circunstancias conocidas que pueden afectarlo (artículo 13(3), letra b), inciso ii)). Conserve los resultados de las pruebas que respaldan cada nivel declarado.

El artículo 15 solo se aplica a los sistemas de IA de alto riesgo

Un sistema es de alto riesgo si entra en un ámbito del anexo III, salvo que se aplique una exención del artículo 6(3). Un sistema que elabora perfiles de personas físicas es siempre de alto riesgo. También lo es si es un producto del anexo I que requiere evaluación de la conformidad por terceros, o su componente de seguridad (artículo 6). Los proveedores quedan cubiertos cuando introducen un sistema en el mercado de la UE o lo ponen en servicio en la UE, estén donde estén establecidos (artículo 2(1), letra a)). Los proveedores y responsables del despliegue de terceros países también quedan cubiertos cuando los resultados del sistema se utilizan en la UE (artículo 2(1), letra c)). Los sistemas de alto riesgo vinculados a productos regulados por la legislación del anexo I, sección B, quedan fuera de el artículo 15 (artículo 2(2)). Para los productos del anexo I, sección A, algunos requisitos pueden limitarse (artículo 2(13)). Esto afecta a los artículos 9 a 15 y 17 a 25, cuando la legislación sectorial ofrece una protección equivalente o superior. Los actos delegados previstos para el 2 de agosto de 2027 concretarán cuáles. El Reglamento excluye los usos militares, de defensa y de seguridad nacional, y los sistemas desarrollados únicamente para investigación científica (artículo 2(3) y (6)). También excluye la investigación y las pruebas previas a la introducción en el mercado (artículo 2(8)). Los sistemas ya introducidos en el mercado o en servicio antes de la fecha de aplicación solo quedan cubiertos tras cambios significativos de diseño. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)).

Preguntas frecuentes: umbrales, pruebas, certificación y multas

¿Qué umbral de precisión es «adecuado»?

El Reglamento no da ninguna cifra ni dice qué nivel es adecuado para cada uso. Exige un nivel adecuado, declarado con sus parámetros en las instrucciones de uso (artículo 15(1) y (3)). Indique el parámetro que usa y el resultado que ha medido.

¿Exige esto un ejercicio formal de red teaming?

No. El artículo 15 no nombra ningún método de prueba. El artículo 15(5) exige medidas contra ataques como el envenenamiento de datos y los ejemplos adversarios, y las pruebas adversarias son una forma de demostrar que esas medidas funcionan.

¿Cómo se prueba la solidez en la práctica?

Los métodos habituales son la inyección de fallos, la generación de ejemplos adversarios, las pruebas de límites y los escenarios de degradación. Usan entradas dañadas, cambios de distribución y casos extremos. El artículo 15 no nombra ninguno. Elija métodos adecuados a los riesgos que haya identificado conforme al artículo 9.

¿Cubren el artículo 15 los certificados o normas de ciberseguridad existentes?

Solo en dos casos definidos. Se presume que un sistema cumple los requisitos de ciberseguridad del artículo 15 (artículo 42(2)). Para ello debe estar certificado con arreglo a un esquema de ciberseguridad del Reglamento (UE) 2019/881, o haberse emitido una declaración de conformidad. Esto vale si las referencias del esquema se han publicado en el Diario Oficial, y solo en la medida en que el certificado o la declaración los cubra. Los sistemas incluidos en el ámbito del Reglamento de Ciberresiliencia (Reglamento (UE) 2024/2847) que cumplan las condiciones de su artículo 12(1) se consideran conformes (artículo 42(3)). Ambos afectan solo a la ciberseguridad, no a la precisión ni a la solidez.

¿Qué documentación se espera para la precisión y la solidez?

Indique los niveles y parámetros de precisión en las instrucciones de uso (artículo 15(3)). La documentación técnica debe describir además los procedimientos de validación y prueba y los parámetros de precisión y solidez. También recoge los informes de prueba y las medidas de ciberseguridad (anexo IV, punto 2, letras g) y h)).

¿Cuáles son las multas y es menor el límite para las pymes?

Las multas alcanzan hasta 15 millones de EUR o el 3 % del volumen de negocios anual mundial, si esta cuantía es superior (artículo 99(4)). Afectan a los proveedores (artículo 16) y a los responsables del despliegue (artículo 26). Para las pymes, incluidas las empresas emergentes, y las pequeñas empresas de mediana capitalización, el límite es el menor de los dos importes (artículo 99(6) y (6 bis)). Los Estados miembros establecen las normas sobre sanciones (artículo 99(1)).

Lea a continuación: cómo se relaciona el artículo 15 con los artículos 9, 10, 11 y 13

Scanara prepara pruebas a partir de sus repositorios

Scanara lee sus repositorios de GitHub conectados y ejecuta análisis basados en reglas de patrones habituales de IA y aprendizaje automático. Puede pasar por alto código no estándar. Por separado, genera borradores de documentación a partir de plantillas y de sus respuestas en las evaluaciones, como pruebas para su trabajo de cumplimiento. Usted decide la clasificación.