Artículo 6: clasificación de sistemas IA de alto riesgo
Cómo el artículo 6 hace que un sistema de IA sea de alto riesgo: la vía de productos del anexo I y los ocho ámbitos del anexo III.
Los proveedores usan el artículo 6 para decidir si un sistema de IA comercializado o en servicio en la UE es de alto riesgo.
Vía 1: el sistema es un producto del anexo I que requiere evaluación de la conformidad por terceros, o su componente de seguridad.
Vía 2: el sistema entra en un ámbito del anexo III, salvo que se aplique una exención del artículo 6(3).
Las reglas de alto riesgo (capítulo III, secciones 1 a 3) se aplican desde el 2 de diciembre de 2027 (anexo III). Para el anexo I rigen desde el 2 de agosto de 2028.
Clasificar mal un sistema del anexo III para eludir las normas puede acarrear multas (artículo 80(7)).
Compare su sistema con el anexo III y las normas del anexo I.
Dos vías hacen que un sistema de IA sea de alto riesgo
Un sistema de IA es de alto riesgo si cumple la vía 1 o la vía 2, y las dos vías empiezan en fechas distintas.
Vía 1: un producto sujeto a una norma del anexo I, o su componente de seguridad
El anexo I enumera normas de seguridad de productos de la UE, por ejemplo para juguetes, ascensores y productos sanitarios. El producto debe, además, requerir una evaluación de la conformidad por terceros (un control realizado por un organismo externo).
Para las normas de la sección A, las reglas de alto riesgo (capítulo III, secciones 1 a 3) se aplican desde el 2 de agosto de 2028. Para las de la sección B, incluida la maquinaria, solo se aplican los artículos 6(1), 60 bis y 102 a 112 (artículo 2(2)). Los artículos 57 a 59 solo se aplican cuando la norma sectorial haya integrado los requisitos de alto riesgo.
Leer la guía del anexo I: normas, fechas y obligacionesVía 2: uno de los ocho ámbitos del anexo III
Un sistema es de alto riesgo si entra en uno de los ocho ámbitos del anexo III, por ejemplo la selección de personal o la puntuación crediticia.
Las reglas de alto riesgo (capítulo III, secciones 1 a 3) se aplican desde el 2 de diciembre de 2027. Pueden aplicarse cuatro exenciones del artículo 6(3), pero la elaboración de perfiles de personas nunca está exenta.
El anexo III nombra ocho ámbitos
Cada ámbito enumera usos concretos. Un sistema diseñado para uno de esos usos es de alto riesgo, salvo que se aplique una exención.
Cuatro condiciones pueden eximir a un sistema del anexo III, pero nunca la elaboración de perfiles
Según el artículo 6(3), un sistema del anexo III no es de alto riesgo si no plantea un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales de las personas. Esto se aplica cuando se cumple una de estas condiciones:
- El sistema está destinado a realizar una tarea de procedimiento limitada.
- El sistema está destinado a mejorar el resultado de una actividad humana previamente realizada.
- El sistema está destinado a detectar patrones de toma de decisiones o desviaciones respecto de patrones anteriores. No está destinado a sustituir ni influir en la evaluación humana ya realizada sin una revisión humana adecuada.
- El sistema está destinado a realizar una tarea preparatoria de una evaluación pertinente para los ámbitos del anexo III.
La elaboración de perfiles de personas nunca está exenta: un sistema así es siempre de alto riesgo (artículo 6(3)).
Un proveedor que invoque una exención debe documentar su evaluación antes de la introducción en el mercado o la puesta en servicio del sistema, y debe registrar el sistema (artículo 6(4), artículo 49(2)).
Scanara apoya cada paso de la clasificación, y usted toma la decisión
Encontrar el uso de IA en su código
Scanara analiza el código en busca de patrones habituales de frameworks de ML. Esto ayuda a encontrar qué sistemas necesitan una clasificación.
Registrar la clasificación
Scanara estructura cada clasificación y registra su razonamiento, también para una exención del artículo 6(3).
Conservar las pruebas
Scanara prepara documentación de clasificación con un rastro de pruebas. Usted decide la clasificación, con asesoramiento jurídico cuando lo que está en juego lo justifique.
Preguntas frecuentes sobre la clasificación de sistemas de IA
¿Qué pasa si clasifico mal mi sistema de IA?
Si un sistema del anexo III se clasifica erróneamente como no de alto riesgo para eludir las normas, el proveedor se expone a multas con arreglo al artículo 99 (artículo 80(7)). El artículo 80(7) no indica la cuantía. Las multas por incumplir las obligaciones de los proveedores del artículo 16 alcanzan los 15 millones de EUR o el 3 % del volumen de negocios mundial anual, si esta cuantía es superior (artículo 99(4)). Para las pymes y las pequeñas empresas de mediana capitalización, el límite es la más baja de las dos cuantías (artículo 99(6) y (6 bis)). Si tiene dudas, documente su razonamiento y consulte a un asesor jurídico.
¿Puede un sistema de IA pasar a ser de alto riesgo más adelante?
Sí. Si alguien modifica la finalidad prevista de un sistema que no era de alto riesgo y que ya está comercializado o en servicio, de modo que pase a serlo, esa parte pasa a ser el proveedor (artículo 25(1)(c)). Un ejemplo es un chatbot reorientado a la puntuación crediticia. Reevalúe la clasificación cada vez que cambie la finalidad o el contexto de uso.
¿Las exenciones del artículo 6(3) eliminan todas las obligaciones?
No. El proveedor debe documentar la evaluación antes de que el sistema se introduzca en el mercado o se ponga en servicio y debe registrar el sistema (artículo 6(4), artículo 49(2)). La exención nunca se aplica a la elaboración de perfiles de personas (artículo 6(3)). Otras normas, como las obligaciones de transparencia del artículo 50, pueden seguir aplicándose.
¿Cuándo se aplican las reglas del anexo I y del anexo III?
Las reglas de alto riesgo (capítulo III, secciones 1 a 3, salvo el artículo 6(5)) se aplican a los sistemas del anexo III desde el 2 de diciembre de 2027 y a los del anexo I desde el 2 de agosto de 2028 (artículo 113). Los sistemas comercializados o puestos en servicio antes de la fecha correspondiente solo quedan cubiertos tras cambios significativos en su diseño; en cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)). El artículo 113 da a cada vía su propia fecha y no dice qué fecha rige para un sistema que entra en ambas vías. Compruebe qué vía se aplica a su sistema.
Tras clasificar: lea la guía de su vía y luego las obligaciones del proveedor
Sistemas de IA de alto riesgo del anexo I (vía de seguridad de los productos)
Qué normas del anexo I están cubiertas, qué reglas se aplican y qué cambia para la maquinaria.
Anexo III: los ocho ámbitos de alto riesgo
Los ocho ámbitos con ejemplos y los artículos aplicables.
Árbol de decisión: ¿es mi sistema de IA de alto riesgo?
Responda preguntas paso a paso para ver en qué clase de riesgo cae su sistema de IA.
Artículo 9: gestión de riesgos
Un sistema de IA de alto riesgo necesita un sistema de gestión de riesgos que abarque todo su ciclo de vida.
Artículo 16: obligaciones de los proveedores
Los proveedores de sistemas de IA de alto riesgo necesitan un sistema de gestión de la calidad, documentación, registros de actividad y registro.
Artículo 26: obligaciones de los responsables del despliegue
Los responsables del despliegue de sistemas de IA de alto riesgo siguen las instrucciones de uso, asignan la supervisión humana y conservan los registros.