Skip to main content

Cribado de sistemas de IA frente a las prohibiciones del artículo 5

El artículo 5 prohíbe diez prácticas de IA. Las multas alcanzan 35 millones EUR o el 7 % del volumen de negocios mundial, si esta cuantía es superior.

Los operadores no deben introducir en el mercado, poner en servicio ni utilizar las diez prácticas de IA que prohíbe el artículo 5. Ocho prohibiciones se aplican desde el 2 de febrero de 2025; otras dos se aplican desde el 2 de diciembre de 2026.

Las multas alcanzan 35 millones EUR o, para una empresa, el 7 % del volumen de negocios mundial anual total. Se aplica la cuantía superior (artículo 99(3)). Los sistemas utilizados exclusivamente con fines militares, de defensa o de seguridad nacional quedan fuera del Reglamento (artículo 2(3)). Siguiente paso: compare la finalidad y el uso real de cada sistema de IA con las diez prohibiciones que figuran abajo.

Diez prácticas de IA están prohibidas

  • Técnicas subliminales y manipuladoras

    art. 5, apdo. 1, letra a)

    Sistemas de IA que se sirven de técnicas subliminales que trascienden la conciencia de una persona, o de técnicas deliberadamente manipuladoras o engañosas, para alterar de manera sustancial el comportamiento. La prohibición se aplica cuando ello provoca, o es razonablemente probable que provoque, perjuicios considerables.

  • Explotación de vulnerabilidades

    art. 5, apdo. 1, letra b)

    Sistemas de IA que explotan vulnerabilidades derivadas de la edad, la discapacidad o una situación social o económica específica para alterar de manera sustancial el comportamiento de un modo que provoque, o sea razonablemente probable que provoque, perjuicios considerables.

  • Material íntimo no consentido

    art. 5, apdo. 1, letra ba)

    Sistemas de IA que generan o manipulan imágenes, vídeos, audio o material similar realistas de las partes íntimas de una persona identificable, o de esa persona en actividades sexualmente explícitas, sin su consentimiento libre, específico, informado, inequívoco y explícito. No cuenta la manipulación que no aumente la exposición de las partes íntimas ni altere la naturaleza de las actividades (artículo 5, apartado 1 ter). Los proveedores solo quedan incluidos si esa es la finalidad prevista del sistema, o si su diseño, entrenamiento, arquitectura, capacidades o funciones de cara al usuario hacen de ello un resultado razonablemente previsible y reproducible sin una modificación técnica significativa y el sistema carece de salvaguardias razonables y adecuadas para evitarlo y corregirlo. Los responsables del despliegue quedan incluidos cuando usan un sistema con este fin (artículo 5, apartado 1 bis). Se aplica desde el 2 de diciembre de 2026.

  • Material de abusos sexuales de menores

    art. 5, apdo. 1, letra bb)

    Sistemas de IA que generan o manipulan material o espectáculos en el sentido del artículo 2, letras c) y e), de la Directiva 2011/93/UE, excepto cuando se aplique una defensa «sin derecho» en virtud del Derecho nacional. Se aplican a proveedores y responsables del despliegue las mismas condiciones que en la letra b bis) (artículo 5, apartado 1 bis). Se aplica desde el 2 de diciembre de 2026.

  • Puntuación ciudadana

    art. 5, apdo. 1, letra c)

    Sistemas de IA que evalúan o clasifican a personas durante un período determinado atendiendo a su comportamiento social o a características personales, cuando la puntuación ciudadana provoca un trato perjudicial en contextos sociales no relacionados, o un trato injustificado o desproporcionado. La prohibición no se limita a las autoridades públicas.

  • Predicción de delitos solo mediante perfiles

    art. 5, apdo. 1, letra d)

    Sistemas de IA que evalúan o predicen el riesgo de que una persona cometa un delito basándose únicamente en la elaboración de su perfil o en sus rasgos de personalidad. No se prohíbe la IA que apoya una valoración humana basada en hechos objetivos y verificables directamente relacionados con una actividad delictiva.

  • Extracción no selectiva de imágenes faciales

    art. 5, apdo. 1, letra e)

    Sistemas de IA que crean o amplían bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión.

  • Reconocimiento de emociones en el trabajo y la educación

    art. 5, apdo. 1, letra f)

    Sistemas de IA que infieren las emociones de una persona en los lugares de trabajo o en los centros educativos. La prohibición no se aplica a los sistemas destinados a motivos médicos o de seguridad.

  • Categorización biométrica por rasgos sensibles

    art. 5, apdo. 1, letra g)

    Sistemas de IA que clasifican individualmente a las personas sobre la base de sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual. No se incluye el etiquetado o filtrado de conjuntos de datos biométricos adquiridos lícitamente ni la categorización de datos biométricos en el ámbito de la garantía del cumplimiento del Derecho.

  • Identificación biométrica remota en tiempo real

    art. 5, apdo. 1, letra h)

    Se prohíbe el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho. Las tres excepciones limitadas figuran más abajo.

La identificación biométrica en tiempo real tiene tres excepciones limitadas

La prohibición del artículo 5, apartado 1, letra h) no se aplica cuando el uso es estrictamente necesario para uno de tres objetivos. Los Estados miembros pueden decidir si permiten ese uso y en qué condiciones (artículo 5, apartado 5).

  • Se permiten tres objetivos

    El uso solo se permite cuando es estrictamente necesario para: la búsqueda selectiva de víctimas concretas de secuestro, trata de seres humanos o explotación sexual, y de personas desaparecidas; la prevención de una amenaza específica, importante e inminente para la vida o la seguridad física, o de una amenaza real y actual o real y previsible de atentado terrorista; o la localización o identificación de un sospechoso de un delito del anexo II, para una investigación, un enjuiciamiento o la ejecución de una sanción penal. El delito debe estar castigado con una pena o medida de seguridad privativa de libertad cuya duración máxima sea de al menos cuatro años (artículo 5, apartado 1, letra h)).

  • Se exigen autorización previa y salvaguardias

    Cada uso requiere la autorización previa de una autoridad judicial o de una autoridad administrativa independiente cuya decisión sea vinculante. En una urgencia debidamente justificada, el uso puede comenzar sin ella si se solicita sin demora indebida y como máximo en 24 horas. Si se rechaza, el uso se detiene y se suprimen todos los datos y resultados (artículo 5, apartado 3). Autorizar un uso exige además una evaluación de impacto relativa a los derechos fundamentales completada y el registro en la base de datos de la UE. En caso de urgencia, el registro puede completarse sin demora indebida (artículo 5, apartado 2). Cada uso debe notificarse además a la autoridad de vigilancia del mercado y a la autoridad nacional de protección de datos (artículo 5, apartado 4).

  • La identificación posterior es de alto riesgo, no está prohibida

    La identificación biométrica remota que no se realiza en tiempo real no está prohibida. Es un uso de alto riesgo con arreglo al anexo III, punto 1, letra a). En una búsqueda selectiva de una persona sospechosa o condenada por un delito, el responsable del despliegue debe solicitar la autorización de una autoridad judicial o de una autoridad administrativa cuya decisión sea vinculante y esté sujeta a control judicial, antes del uso o sin demora indebida y como máximo en 48 horas. No se aplica a la identificación inicial de un posible sospechoso basada en hechos objetivos y verificables directamente vinculados al delito (artículo 26, apartado 10).

A las prohibiciones se aplican dos fechas

  • Letras a) a h): desde el 2 de febrero de 2025

    Las prohibiciones del artículo 5(1), letras a) a h), se aplican desde el 2 de febrero de 2025 (artículo 113, letra a)). Las multas se aplican desde el 2 de agosto de 2025.

  • Letras b bis) y b ter) y artículo 5(1 bis) y (1 ter): desde el 2 de diciembre de 2026

    Las prohibiciones del material íntimo no consentido y del material de abusos sexuales de menores, con sus condiciones, se aplican desde el 2 de diciembre de 2026 (artículo 113, letra a)). Las multas se aplican desde la misma fecha.

Qué hace el cribado de Scanara

El cribado es una evaluación guiada. Scanara no decide si una práctica está prohibida: la intención y el contexto requieren su juicio, y la decisión sigue siendo suya.

Cribado guiado del artículo 5

Un banco de preguntas cubre las diez prácticas del artículo 5(1). Usted responde por cada sistema de IA; Scanara guarda el resultado como prueba.

Comprobaciones de código basadas en reglas

Las reglas de código de Scanara señalan patrones que pueden indicar una práctica prohibida. El código por sí solo no puede mostrar la intención ni el contexto, de modo que una señal es un motivo para revisar.

El cribado va primero

Las prohibiciones se aplican sea cual sea la clase de riesgo. Scanara no ofrece la evaluación AIRA para un sistema que el cribado marca como prohibido.

Abrir la demo de Scanara

Lea más sobre las prohibiciones y sus fechas

Preguntas frecuentes

¿Se aplica la prohibición de la puntuación ciudadana a las empresas privadas?

Sí. El artículo 5, apartado 1, letra c), prohíbe los sistemas de puntuación ciudadana sin limitar la prohibición a las autoridades públicas. Abarca a los operadores que introducen un sistema así en el mercado, lo ponen en servicio o lo usan, dentro del ámbito del artículo 2. El artículo 2 excluye, entre otros, los usos militares, de defensa y de seguridad nacional (apartado 3), determinadas autoridades públicas de terceros países (apartado 4), los sistemas dedicados únicamente a la investigación científica (apartado 6), la investigación y las pruebas previas a la introducción en el mercado (apartado 8) y el uso puramente personal y no profesional por personas físicas (apartado 10).

¿Cómo compruebo mis sistemas de IA frente a las prácticas prohibidas?

Compare la finalidad prevista y el uso real de cada sistema con las diez prácticas del artículo 5, apartado 1, y registre el resultado por sistema. Scanara le ayuda con una evaluación guiada del artículo 5 y con comprobaciones de código basadas en reglas para los patrones detectables. La intención y el contexto requieren su criterio, y la decisión es suya.

¿Qué prohibiciones se aplican desde el 2 de diciembre de 2026?

Las prohibiciones del material íntimo no consentido (letra b bis)) y del material de abusos sexuales de menores (letra b ter)), junto con el artículo 5(1 bis) y (1 ter) (artículo 113, letra a)). Para los proveedores solo se aplican si generar ese material es la finalidad prevista del sistema, o un resultado razonablemente previsible y reproducible sin garantías adecuadas (artículo 5(1 bis), letra a)).

¿Tienen excepciones las prohibiciones?

La redacción varía según la letra. La letra d) no se aplica a la IA que apoya una evaluación humana ya basada en hechos objetivos y verificables directamente relacionados con una actividad delictiva. La letra f) excluye los sistemas destinados a motivos médicos o de seguridad. La letra g) no abarca el etiquetado ni el filtrado de conjuntos de datos biométricos adquiridos lícitamente, ni la categorización de datos biométricos en la garantía del cumplimiento del Derecho. La letra h) permite tres objetivos limitados con condiciones estrictas. La letra b ter) no se aplica cuando rige una defensa de «sin derecho» conforme al Derecho nacional.

Scanara prepara pruebas a partir de sus repositorios

Scanara lee sus repositorios de GitHub conectados y ejecuta análisis basados en reglas de patrones habituales de IA y aprendizaje automático. Puede pasar por alto código no estándar. Por separado, genera borradores de documentación a partir de plantillas y de sus respuestas en las evaluaciones, como pruebas para su trabajo de cumplimiento. Usted decide la clasificación.