Detección de Prácticas de IA Prohibidas — Artículo 5
Cómo detectar prácticas prohibidas en sistemas de IA según el Artículo 5 del reglamento IA. Las 8 categorías prohibidas, calendario de aplicación, y detección automatizada.
La Ley de IA de la UE prohíbe en su artículo 5 8 categorías de prácticas de IA consideradas riesgos inaceptables para los derechos fundamentales. Estas prohibiciones están en vigor desde el 2 de febrero de 2025 — la fecha de aplicación más temprana de la Ley. Ningún sistema de IA que encaje en una categoría prohibida puede introducirse en el mercado de la UE ni ponerse en servicio, con independencia de las medidas de mitigación de riesgos. Las infracciones conllevan multas de hasta 35 millones de euros o el 7 % del volumen de negocio mundial — el nivel más alto de la Ley.
Las 8 prácticas de IA prohibidas por el artículo 5
Manipulación subliminal por debajo de la consciencia
Art 5(1)(a)Sistemas de IA que despliegan técnicas subliminales más allá de la consciencia de una persona para distorsionar sustancialmente su comportamiento de forma que cause o pueda causar daño a esa persona o a otra.
Ejemplos: Estímulos audio/visuales subliminales en interfaces; nudging algorítmico por debajo del umbral consciente
Explotación de vulnerabilidades
Art 5(1)(b)Sistemas de IA que explotan vulnerabilidades específicas de las personas por razón de edad, discapacidad o situación social/económica para distorsionar sustancialmente su comportamiento de forma dañina.
Ejemplos: Segmentación depredadora de usuarios de edad avanzada; diseño manipulador para personas con discapacidades cognitivas
Puntuación social por autoridades públicas
Art 5(1)(c)Sistemas de IA utilizados por autoridades públicas o en su nombre para evaluar o clasificar a personas según su comportamiento social o características personales a lo largo del tiempo, dando lugar a un trato perjudicial o discriminatorio en contextos no relacionados.
Ejemplos: Sistemas gubernamentales de puntuación de ciudadanos; sistemas de crédito social entre contextos
Identificación biométrica remota en tiempo real en espacios públicos
Art 5(1)(d)Sistemas de identificación biométrica remota en tiempo real (p. ej. reconocimiento facial) usados en espacios de acceso público con fines policiales, salvo excepciones específicas estrechamente definidas (terrorismo, menores desaparecidos, delincuentes buscados).
Ejemplos: Reconocimiento facial en directo por CCTV; vigilancia biométrica en tiempo real en zonas públicas
Identificación biométrica remota a posteriori (con excepciones)
Art 5(1)(e)Sistemas de identificación biométrica remota a posteriori usados por las fuerzas del orden, salvo autorización de una autoridad judicial o independiente para la persecución de delitos graves. Cubre el reconocimiento facial retrospectivo en grabaciones.
Ejemplos: Reconocimiento facial retrospectivo en archivos de CCTV sin autorización judicial
Categorización biométrica que infiere atributos sensibles
Art 5(1)(f)Sistemas de IA que categorizan a personas a partir de datos biométricos para inferir o deducir raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, orientación sexual o estado de salud.
Ejemplos: Inferencia automatizada de la religión a partir de rasgos faciales; perfilado biométrico de la orientación sexual
Reconocimiento de emociones en el trabajo y la educación
Art 5(1)(g)Sistemas de IA usados para inferir las emociones de personas en contextos laborales y de instituciones educativas, salvo por razones médicas o de seguridad. Cubre la monitorización emocional en tiempo real de empleados y estudiantes.
Ejemplos: IA de monitorización del sentimiento/compromiso de empleados; análisis de emociones de alumnos en las aulas
Policía predictiva basada en perfilado
Art 5(1)(h)Sistemas de IA utilizados por las fuerzas del orden o en su nombre para evaluar el riesgo de que una persona cometa un delito basándose únicamente en perfilado o rasgos de personalidad, sin hechos objetivos y verificables directamente vinculados a una actividad delictiva.
Ejemplos: Predicción de reincidencia a partir de perfilado demográfico; IA predictiva «pre-crimen» sin base probatoria
Calendario de aplicación
Entrada en vigor de la Ley de IA de la UE
Reglamento (UE) 2024/1689 publicado en el Diario Oficial y en vigor.
Prohibiciones del artículo 5 exigibles
Las 8 prácticas de IA prohibidas quedan vetadas en toda la UE. No se aplica período transitorio.
Obligaciones de alto riesgo de la Ley de IA
Aplicación de los artículos 9 a 49 para sistemas de IA de alto riesgo. Obligaciones GPAI ya en vigor desde agosto de 2025.
Cómo Scanara detecta las prácticas prohibidas
Scanara incluye un módulo de cribado dedicado a las prácticas prohibidas que escanea su base de código de IA y la documentación del sistema frente a las 8 categorías del artículo 5. A diferencia de las checklists manuales, Scanara detecta indicadores a nivel de código de comportamientos prohibidos — p. ej. API de estímulos subliminales, pipelines de clasificación biométrica en tiempo real, integraciones de detección de emociones en aplicaciones orientadas a empleados.
Escaneo de código basado en patrones
Reglas de cumplimiento ajustadas al artículo 5 — detectan bibliotecas de estímulos subliminales, pipelines de inferencia biométrica, SDK de reconocimiento de emociones y patrones de perfilado vinculados a características protegidas.
Señales de revisión de arquitectura
Más allá de los patrones de código individuales, Scanara señala características de la arquitectura del sistema que indican casos de uso prohibidos — pipelines biométricos en tiempo real en contextos de espacio público, flujos de datos de puntuación social entre contextos.
Gravedad de hallazgo de tolerancia cero
Los hallazgos del artículo 5 se clasifican siempre con gravedad crítica — no pueden suprimirse ni aceptarse como riesgo. Un hallazgo bloquea los merge gates de CI/CD hasta que se elimine la funcionalidad prohibida.
Evidencia de auditoría con marca de tiempo
Cada escaneo registra un resultado con marca de tiempo junto con la versión de la política y las entradas utilizadas — adjuntable a su documentación técnica del Anexo IV como evidencia de diligencia debida sobre el artículo 5.
Preguntas frecuentes
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.