¿Es mi sistema de IA de alto riesgo? Árbol de decisión
Árbol de decisión interactivo para la clasificación de riesgos según el reglamento IA. Cubre las prácticas prohibidas del artículo 5, las 8 categorías de alto riesgo del anexo III, las obligaciones de los modelos GPAI y la transparencia del artículo 50.
La Ley de IA de la UE (Reglamento (UE) 2024/1689) clasifica los sistemas de IA en cuatro niveles de riesgo: prohibido, alto riesgo, riesgo limitado y riesgo mínimo. Cada nivel conlleva diferentes obligaciones de cumplimiento, desde prohibiciones absolutas hasta códigos de conducta voluntarios.
Utilice este árbol de decisión interactivo para determinar dónde se sitúa su sistema de IA. La clasificación sigue la lógica establecida en los artículos 5, 6, 50 y 51 del reglamento, así como los Anexos I y III. Responda cada pregunta basándose en la funcionalidad real de su sistema, no solo en su uso previsto.
Árbol de decisión interactivo
Does your AI system perform any practice listed under Article 5?
Article 5 prohibits social scoring, subliminal manipulation, exploitation of vulnerabilities, real-time remote biometric identification in public spaces (with limited exceptions), predictive policing based solely on profiling, untargeted scraping for facial recognition databases, emotion recognition in workplaces/schools, and biometric categorisation inferring sensitive attributes.
Comprensión del marco de clasificación de riesgos
La Ley de IA de la UE establece un enfoque proporcional y basado en riesgo para la regulación de la IA. Cuanto mayor sea el riesgo que un sistema de IA supone para los derechos fundamentales y la seguridad, más estrictos serán los requisitos. Este marco se aplica a proveedores, implementadores, importadores, distribuidores y representantes autorizados que operan en el mercado de la UE o lo afectan.
Prohibido (riesgo inaceptable)
Prácticas de IA que suponen un riesgo inaceptable para los derechos fundamentales. Están totalmente prohibidas según el artículo 5, con multas de hasta 35 millones de EUR o el 7 % de la facturación global. Incluye puntuación social, manipulación subliminal, explotación de grupos vulnerables y determinadas prácticas biométricas.
Alto riesgo
Sistemas de IA utilizados en áreas críticas listadas en el Anexo III (biometría, infraestructura crítica, empleo, educación, fuerzas del orden, etc.) o como componentes de seguridad de productos bajo legislación del Anexo I. Sujetos a requisitos integrales que incluyen gestión de riesgos, gobernanza de datos, documentación técnica, registro de eventos, transparencia, supervisión humana, precisión y robustez.
Riesgo limitado
Sistemas de IA que interactúan con personas físicas, generan contenido sintético o realizan reconocimiento emocional o categorización biométrica. Sujetos a obligaciones de transparencia según el artículo 50: los usuarios deben ser informados de que interactúan con IA, y el contenido sintético debe etiquetarse.
Riesgo mínimo
La mayoría de los sistemas de IA entran en esta categoría. Sin requisitos obligatorios, pero se fomentan los códigos de conducta voluntarios del artículo 95. Ejemplos incluyen filtros de spam, juegos con IA y sistemas de gestión de inventario.
Errores comunes de clasificación
Clasificar por intención, no por capacidad
La regulación clasifica en función de lo que un sistema de IA puede hacer, no solo de lo que está destinado a hacer. Una herramienta de selección de RRHH es de alto riesgo independientemente de que el empleador afirme usarla solo como motor de sugerencias.
Ignorar la excepción del artículo 6(3)
No todos los sistemas del Anexo III son automáticamente de alto riesgo. Si su sistema solo realiza tareas procedimentales limitadas, mejora trabajo humano previo o prepara evaluaciones para revisión humana, puede acogerse a la excepción del artículo 6(3). Pero debe documentarlo antes de la comercialización.
Olvidar la clasificación posterior
Un modelo GPAI utilizado como componente en un sistema de alto riesgo activa las obligaciones de alto riesgo para el proveedor posterior. La clasificación debe considerar el contexto completo de despliegue, no solo el modelo de forma aislada.
Preguntas frecuentes
Guías relacionadas
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.