¿Es mi sistema de IA de alto riesgo? Árbol de decisión
Árbol de decisión interactivo para la clasificación de riesgos según el reglamento IA. Cubre las prácticas prohibidas del artículo 5, las 8 categorías de alto riesgo del anexo III, las obligaciones de los modelos GPAI y la transparencia del artículo 50.
El Reglamento de IA de la UE (Reglamento (UE) 2024/1689) clasifica los sistemas de IA según su finalidad prevista: prácticas prohibidas (artículo 5), sistemas de alto riesgo (artículo 6 con los anexos I y III) y sistemas con obligaciones de transparencia (artículo 50). Los modelos de IA de uso general tienen sus propias normas (capítulo V). Las obligaciones van desde la prohibición total hasta los códigos de conducta voluntarios.
Use este árbol de decisión interactivo para saber qué normas se aplican a su sistema de IA. Sigue los artículos 5, 6, 50 y 51 y los anexos I y III. Responda a cada pregunta según la finalidad prevista de su sistema: el uso que usted indica en las instrucciones de uso, los materiales promocionales o de venta y la documentación técnica (artículo 3, punto 12). El resultado es un punto de partida, no asesoramiento jurídico.
Árbol de decisión interactivo
¿Realiza su sistema de IA una práctica prohibida por el artículo 5?
El artículo 5 prohíbe, entre otras prácticas: las técnicas subliminales o manipuladoras perjudiciales; la explotación de vulnerabilidades por razón de edad, discapacidad o situación social o económica; la puntuación social; la evaluación del riesgo de cometer un delito basada únicamente en la elaboración de perfiles; la extracción no selectiva de imágenes faciales para crear bases de datos de reconocimiento facial; el reconocimiento de emociones en el lugar de trabajo y en los centros educativos (salvo por motivos médicos o de seguridad); la categorización biométrica para deducir la raza, las opiniones políticas, la afiliación sindical, las convicciones religiosas o filosóficas, la vida sexual o la orientación sexual; y la identificación biométrica remota en tiempo real en espacios de acceso público con fines de garantía del cumplimiento del Derecho, con excepciones limitadas. A partir del 2 de diciembre de 2026, prohíbe además los sistemas de IA que generen deepfakes sexualmente explícitos de personas identificables sin su consentimiento o material de abuso sexual infantil (artículo 5, apartado 1, letras ba) y bb)).
Comprensión del marco de clasificación de riesgos
El Reglamento de IA adopta un enfoque basado en el riesgo: cuanto mayor es el riesgo que un sistema de IA plantea para la salud, la seguridad y los derechos fundamentales, más estrictos son los requisitos. Se aplica a proveedores, responsables del despliegue, importadores, distribuidores, fabricantes de productos, representantes autorizados y personas afectadas en la UE, así como a proveedores y responsables del despliegue de terceros países cuando la información de salida del sistema se utiliza en la UE (artículo 2, apartado 1). No se aplica a los sistemas de IA utilizados exclusivamente con fines militares, de defensa o de seguridad nacional (artículo 2, apartado 3), a los sistemas y modelos de IA desarrollados y puestos en servicio con el único fin de la investigación y el desarrollo científicos (artículo 2, apartado 6), a la investigación, las pruebas y el desarrollo previos a la introducción de un sistema en el mercado o su puesta en servicio, salvo las pruebas en condiciones reales (artículo 2, apartado 8), ni a las personas físicas que usan la IA en una actividad puramente personal de carácter no profesional (artículo 2, apartado 10). Tampoco se aplica a los sistemas de IA publicados con licencias libres y de código abierto, salvo que se introduzcan en el mercado o se pongan en servicio como sistemas de alto riesgo o estén sujetos al artículo 5 o 50 (artículo 2, apartado 12). Las etiquetas «riesgo limitado» y «riesgo mínimo» son abreviaturas habituales; el propio reglamento no las utiliza.
Prácticas prohibidas (artículo 5)
Prácticas de IA que el reglamento prohíbe por completo (artículo 5), como la puntuación social, las técnicas subliminales o manipuladoras perjudiciales, la explotación de vulnerabilidades y ciertas prácticas biométricas. Las multas pueden alcanzar 35 millones de EUR o, para una empresa, el 7 % del volumen de negocios mundial anual total, si esta cuantía es superior (artículo 99, apartado 3).
Alto riesgo
Sistemas de IA que son un componente de seguridad de un producto sujeto a una norma del anexo I y que deben someterse a una evaluación de la conformidad por terceros, o que se utilizan para los usos del anexo III, como biometría, infraestructuras críticas, educación, empleo, garantía del cumplimiento del Derecho y migración. Deben cumplir requisitos como la gestión de riesgos, la gobernanza de datos, la documentación técnica, la conservación de registros, la transparencia, la supervisión humana, la exactitud y la solidez. Los requisitos se aplican a los sistemas del anexo III desde el 2 de diciembre de 2027 y a los sistemas de la sección A del anexo I desde el 2 de agosto de 2028 (artículo 113, en la redacción del Reglamento (UE) 2026/1744). Los sistemas comercializados o puestos en servicio antes de esas fechas solo quedan cubiertos tras cambios significativos en su diseño; en cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)). Para los sistemas de la sección B, solo se aplican los artículos 6(1), 60 bis y 102 a 112, y los artículos 57 a 59 solo en la medida en que la norma sectorial haya integrado los requisitos de alto riesgo (artículo 2(2)).
Obligaciones de transparencia (artículo 50)
Sistemas de IA que interactúan directamente con personas, generan audio, imágenes, vídeo o texto sintéticos, o realizan reconocimiento de emociones o categorización biométrica. Los proveedores y los responsables del despliegue deben, desde el 2 de agosto de 2026, informar a las personas o marcar los contenidos como exige el artículo 50. La información debe ser clara y facilitarse, a más tardar, con ocasión de la primera interacción o exposición (artículo 50, apartado 5).
Todos los demás sistemas de IA
Sistemas de IA a los que no se aplica ninguna prohibición del artículo 5, ninguna norma de alto riesgo ni ninguna obligación del artículo 50. Siguen aplicándose normas generales, como la alfabetización en materia de IA (artículo 4). Se fomentan los códigos de conducta voluntarios (artículo 95).
Errores comunes de clasificación
Clasificar por la etiqueta en lugar de por la finalidad prevista
La clasificación sigue la finalidad prevista: el uso que el proveedor indica en las instrucciones de uso, los materiales promocionales o de venta y la documentación técnica (artículo 3, punto 12). Un sistema de contratación de personal, por ejemplo para filtrar solicitudes de empleo o evaluar candidatos, es un uso del anexo III (punto 4(a)). Llamarlo herramienta de sugerencias no cambia nada. Solo pueden cambiarlo las condiciones del artículo 6(3), y nunca si el sistema elabora perfiles de personas físicas.
Ignorar la excepción del artículo 6(3)
No todo sistema del anexo III es de alto riesgo. Un sistema que no plantea un riesgo importante de perjuicio y cumple una de las cuatro condiciones del artículo 6(3) no se considera de alto riesgo. La excepción nunca se aplica cuando el sistema elabora perfiles de personas físicas. El proveedor debe documentar su evaluación antes de que el sistema se introduzca en el mercado o se ponga en servicio y debe registrar igualmente el sistema en la base de datos de la UE (artículo 6(4), artículo 49(2)).
Olvidar la clasificación posterior
Un modelo GPAI no se clasifica por sí mismo como de alto riesgo. Si desarrolla un sistema de IA sobre un modelo y ese sistema es de alto riesgo según el artículo 6, el proveedor de ese sistema asume las obligaciones de alto riesgo, y las obligaciones del proveedor del modelo según el artículo 53 siguen siendo independientes. Clasifique el sistema por su finalidad prevista, no solo por el modelo.
Preguntas frecuentes
¿Cómo sé si mi sistema de IA es de alto riesgo?
Un sistema de IA es de alto riesgo si cumple una de dos vías. Vía 1 (artículo 6(1)): es un componente de seguridad de un producto, o es él mismo un producto, sujeto a una norma del anexo I, y ese producto debe someterse a una evaluación de la conformidad por terceros. Vía 2 (artículo 6(2)): se utiliza para un uso del anexo III y no se aplica la excepción del artículo 6(3); la elaboración de perfiles de personas físicas nunca está exenta. Para los productos de la sección B del anexo I, solo se aplican los artículos 6(1), 60 bis y 102 a 112, y los artículos 57 a 59 solo en la medida en que la norma sectorial haya integrado los requisitos de alto riesgo (artículo 2(2)). Use el árbol de decisión de arriba para recorrer los criterios.
¿Qué pasa si clasifico mal mi sistema de IA?
Si un sistema del anexo III se clasifica erróneamente como no de alto riesgo para eludir las normas, el proveedor se expone a multas con arreglo al artículo 99 (artículo 80(7)). Las multas por incumplir las obligaciones de los proveedores del artículo 16 alcanzan los 15 millones de EUR o, para una empresa, el 3 % del volumen de negocios mundial anual total, si esta cuantía es superior (artículo 99(4)). Para las pymes y las pequeñas empresas de mediana capitalización, el límite es la más baja de las dos cuantías (artículo 99(6) y (6 bis)).
¿Puede cambiar la clasificación de riesgo de un sistema de IA con el tiempo?
Sí. La Comisión puede modificar el anexo III y las condiciones del artículo 6(3) mediante actos delegados (artículo 7, artículo 6(6) y (7)). Un cambio de la finalidad prevista también puede cambiar la clasificación: quien modifique la finalidad prevista de un sistema que no era de alto riesgo y ya está comercializado o en servicio de modo que pase a serlo pasa a ser su proveedor (artículo 25(1)(c)). Reevalúe la clasificación cuando cambie la finalidad o el contexto de uso. El Reglamento (UE) 2026/1744 (el «Digital Omnibus sobre IA») fijó las fechas de las normas de alto riesgo: el 2 de diciembre de 2027 para los sistemas del anexo III y el 2 de agosto de 2028 para los del anexo I. Las prohibiciones del artículo 5 se aplican desde el 2 de febrero de 2025 (artículo 5(1), letras ba) y bb): desde el 2 de diciembre de 2026) y las obligaciones GPAI desde el 2 de agosto de 2025.
¿Usar una API de IA de terceros convierte mi sistema en alto riesgo?
Depende de la finalidad prevista de su sistema, no del origen del modelo. Si integra una API de IA de terceros en un sistema con un uso del anexo III, como la puntuación crediticia o la contratación de personal, su sistema es de alto riesgo, salvo que se aplique la excepción del artículo 6(3). Quien introduce ese sistema en el mercado o lo pone en servicio con su propio nombre o marca es su proveedor (artículo 3, punto 3) y asume las obligaciones de proveedor, con independencia de quién haya creado el modelo. El proveedor del modelo tiene sus propias obligaciones GPAI.
Scanara prepara pruebas a partir de sus repositorios
Scanara lee sus repositorios de GitHub conectados y ejecuta análisis basados en reglas de patrones habituales de IA y aprendizaje automático. Puede pasar por alto código no estándar. Por separado, genera borradores de documentación a partir de plantillas y de sus respuestas en las evaluaciones, como pruebas para su trabajo de cumplimiento. Usted decide la clasificación.