Reglamento IA fuerzas del orden: cumplimiento

art. 5, ap. 1, d

Evaluación del riesgo de delito basada solo en perfiles

Están prohibidos los sistemas de IA que realizan evaluaciones de riesgos de personas físicas para evaluar o predecir el riesgo de que cometan una infracción penal, basándose únicamente en la elaboración de su perfil o en la evaluación de sus rasgos y características de personalidad. La prohibición no se aplica a los sistemas que apoyan la evaluación humana de la implicación de una persona en una actividad delictiva, que ya se basa en hechos objetivos y verificables directamente relacionados con una actividad delictiva (artículo 5, apartado 1, letra d).

art. 5, ap. 1, e

Bases de datos de reconocimiento facial por extracción no selectiva

Están prohibidos los sistemas de IA que crean o amplían bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión (artículo 5, apartado 1, letra e).

art. 5, ap. 1, h, art. 5, ap. 2, art. 5, ap. 3

Identificación biométrica remota «en tiempo real»

El uso de estos sistemas en espacios de acceso público con fines policiales está prohibido, salvo que y en la medida en que sea estrictamente necesario para: (i) la búsqueda selectiva de víctimas concretas de secuestro, trata de seres humanos o explotación sexual, así como la búsqueda de personas desaparecidas; (ii) la prevención de una amenaza específica, importante e inminente para la vida o la seguridad física de las personas físicas o de una amenaza real y actual o real y previsible de atentado terrorista; (iii) la localización o identificación de una persona sospechosa de una infracción del anexo II castigada con una pena o medida de seguridad privativas de libertad de un máximo de al menos cuatro años (artículo 5, apartado 1, letra h). El uso se limita a confirmar la identidad de la persona específicamente buscada y solo se autoriza si la autoridad ha realizado una evaluación de impacto relativa a los derechos fundamentales con arreglo al artículo 27 y ha registrado el sistema con arreglo al artículo 49; en casos de urgencia debidamente justificados, el registro puede completarse sin demora indebida (artículo 5, apartado 2). Cada uso requiere autorización previa de una autoridad judicial o de una autoridad administrativa independiente cuya decisión sea vinculante; en una situación de urgencia debidamente justificada, el uso puede comenzar y la autorización debe solicitarse en 24 horas; si se rechaza, el uso cesa y los datos se suprimen (artículo 5, apartado 3). Cada uso se notifica a la autoridad de vigilancia del mercado y a la autoridad nacional de protección de datos (artículo 5, apartado 4). Un Estado miembro puede decidir si prevé ese uso (artículo 5, apartado 5).

art. 5, ap. 1, g

Categorización biométrica: una exclusión para las fuerzas del orden

La prohibición de los sistemas de categorización biométrica que deducen o infieren la raza, las opiniones políticas, la afiliación sindical, las convicciones religiosas o filosóficas, la vida sexual o la orientación sexual no abarca el etiquetado o filtrado de conjuntos de datos biométricos adquiridos legalmente, como imágenes, a partir de datos biométricos, ni la categorización de datos biométricos en el ámbito de las fuerzas del orden (artículo 5, apartado 1, letra g).

art. 5, ap. 1

El resto del artículo 5

El artículo 5, apartado 1 prohíbe también las técnicas subliminales o manipuladoras (letra a), la explotación de vulnerabilidades (letra b), cierto material íntimo o abusivo generado (letras ba y bb), la puntuación ciudadana (letra c) y la inferencia de emociones en los lugares de trabajo y los centros educativos, con una excepción por motivos médicos o de seguridad (letra f). No son específicas de las fuerzas del orden; véase la página sobre el artículo 5.

art. 3, ap. 46

Las fuerzas del orden en el reglamento

El Reglamento no contiene un régimen sectorial general de garantía del cumplimiento del Derecho; el punto 6 del anexo III es el ámbito de alto riesgo titulado «Garantía del cumplimiento del Derecho». El reglamento define la actividad policial como las actividades de las autoridades con funciones coercitivas, o realizadas en su nombre, para la prevención, investigación, detección o enjuiciamiento de infracciones penales o la ejecución de sanciones penales, incluida la protección frente a las amenazas para la seguridad pública y su prevención (artículo 3, apartado 46). Los usos de alto riesgo figuran en el anexo III: el punto 6 para las fuerzas del orden y el punto 1 para la biometría, cada uno «en la medida en que el Derecho de la Unión o nacional pertinente permita su uso».

Anexo III, 6

Anexo III, punto 6: las cinco entradas

Cada entrada abarca los sistemas utilizados por las autoridades con funciones coercitivas o en su nombre, o por las instituciones, órganos y organismos de la Unión en apoyo de dichas autoridades. (a) Evaluar el riesgo de que una persona física sea víctima de infracciones penales. (b) Polígrafos o herramientas similares. (c) Evaluar la fiabilidad de las pruebas en el curso de la investigación o el enjuiciamiento de infracciones penales. (d) Evaluar el riesgo de que una persona física cometa una infracción o reincida, sin basarse únicamente en la elaboración de perfiles (a la que se refiere el artículo 3, apartado 4 de la Directiva (UE) 2016/680), o evaluar rasgos y características de la personalidad o comportamientos delictivos anteriores de personas físicas o grupos. (e) Elaboración de perfiles de personas físicas (a la que se refiere el artículo 3, apartado 4 de la Directiva (UE) 2016/680) durante la detección, la investigación o el enjuiciamiento de infracciones penales.

Anexo III, 1

Anexo III, punto 1: biometría

El punto 1 recoge (a) los sistemas de identificación biométrica remota, sin incluir los sistemas de verificación biométrica cuyo único propósito sea confirmar que una persona física concreta es quien dice ser; (b) los sistemas de categorización biométrica según atributos o características sensibles o protegidos, basada en la inferencia de dichos atributos o características; (c) los sistemas de reconocimiento de emociones.

art. 5, ap. 1, d, art. 6, ap. 3

Policía predictiva y análisis de la delincuencia

El reglamento no emplea ninguno de los dos términos, y el anexo III, punto 6 no contiene ninguna entrada sobre análisis de la delincuencia. Está prohibido evaluar o predecir el riesgo de que una persona física cometa una infracción penal basándose únicamente en la elaboración de su perfil o en la evaluación de sus rasgos y características de personalidad (artículo 5, apartado 1, letra d). La prohibición no se aplica a los sistemas que apoyan la evaluación humana de la implicación de una persona en una actividad delictiva, que ya se basa en hechos objetivos y verificables directamente relacionados con una actividad delictiva. Un sistema del anexo III que elabora perfiles de personas físicas es siempre de alto riesgo (artículo 6, apartado 3). Que una herramienta que trabaja sobre zonas y no sobre personas corresponda a una entrada depende de su finalidad prevista.

Anexo III, 7, anexo III, 8, a

Entradas vecinas: puntos 7 y 8, letra a

El punto 7 abarca la gestión de la migración, el asilo y el control fronterizo: polígrafos y herramientas similares, evaluaciones de riesgos de personas que entran o han entrado en un Estado miembro, apoyo al examen de solicitudes de asilo, visado y permiso de residencia, y detección, reconocimiento o identificación de personas, salvo la verificación de documentos de viaje. El punto 8, letra a, abarca los sistemas utilizados por una autoridad judicial o en su nombre para ayudarla a investigar e interpretar hechos y normas jurídicas y a aplicar el Derecho a unos hechos concretos, o utilizados de forma similar en la resolución alternativa de litigios.

art. 3, ap. 3, art. 3, ap. 4, art. 25, ap. 1

Proveedor y responsable del despliegue

El proveedor es una persona física o jurídica, autoridad pública, agencia u otro organismo que desarrolla un sistema de IA, o lo manda desarrollar, y lo introduce en el mercado o lo pone en servicio con su propio nombre o marca (artículo 3, apartado 3). El responsable del despliegue es una persona u organismo de ese tipo que utiliza un sistema de IA bajo su propia autoridad, salvo en el ejercicio de una actividad personal de carácter no profesional (artículo 3, apartado 4). Una autoridad policial que compra un sistema es responsable del despliegue. Pasa a ser proveedor si pone su nombre o marca en un sistema de alto riesgo ya comercializado, le hace una modificación sustancial que lo mantiene como de alto riesgo, o cambia la finalidad prevista de un sistema que no es de alto riesgo de modo que pase a serlo (artículo 25, apartado 1).

art. 16, art. 43, ap. 1

Proveedores

Los proveedores garantizan que el sistema cumple los requisitos de la sección 2, entre ellos los artículos 9 a 15; disponen de un sistema de gestión de la calidad conforme al artículo 17; garantizan que el procedimiento de evaluación de la conformidad del artículo 43 se lleva a cabo antes de introducir el sistema en el mercado o ponerlo en servicio; redactan una declaración UE de conformidad, colocan el marcado CE y se registran con arreglo al artículo 49, apartado 1 (artículo 16). Para los sistemas del anexo III, punto 1, el proveedor elige el control interno (anexo VI) o el procedimiento del anexo VII si se aplicaron normas armonizadas o especificaciones comunes. Cuando se aplica el procedimiento del anexo VII y el sistema va a ser puesto en servicio por autoridades policiales, de inmigración o de asilo o por instituciones, órganos y organismos de la Unión, la autoridad de vigilancia del mercado del artículo 74, apartado 8 o 9 actúa como organismo notificado (artículo 43, apartado 1). Los sistemas de los puntos 2 a 8 siguen el control interno (artículo 43, apartado 2).

art. 26, art. 49, ap. 3

Responsables del despliegue como las autoridades policiales

Los responsables del despliegue adoptan medidas adecuadas para utilizar el sistema conforme a sus instrucciones de uso (artículo 26, apartado 1), encomiendan la supervisión a personas competentes, formadas y con autoridad (artículo 26, apartado 2), conservan los registros bajo su control (artículo 26, apartado 6) e informan a las personas físicas sobre las que se toman decisiones; para el uso policial se aplica el artículo 13 de la Directiva (UE) 2016/680 (artículo 26, apartado 11). Los responsables del despliegue que son autoridades públicas o instituciones, órganos y organismos de la Unión se registran antes de usar un sistema y no deben usar uno que no esté registrado (artículo 26, apartado 8); lo mismo vale para las personas que actúen en su nombre (artículo 49, apartado 3). Para la identificación biométrica remota posterior en la búsqueda selectiva de una persona sospechosa o condenada, solicitan autorización ex ante, o sin demora indebida y como máximo en 48 horas, a una autoridad judicial o administrativa cuya decisión sea vinculante y esté sujeta a control judicial, salvo para la identificación inicial de un posible sospechoso basada en hechos objetivos y verificables directamente relacionados con la infracción (artículo 26, apartado 10).

art. 27, ap. 1, art. 27, ap. 2

Evaluación de impacto relativa a los derechos fundamentales

Antes de utilizar un sistema de alto riesgo a que se refiere el artículo 6, apartado 2, salvo los del punto 2 del anexo III, los responsables del despliegue que sean organismos de Derecho público o entidades privadas que presten servicios públicos, y los responsables del despliegue de sistemas de los puntos 5, letras b y c, realizan una evaluación del impacto en los derechos fundamentales (artículo 27, apartado 1). La obligación se aplica al primer uso; el responsable del despliegue puede, en casos similares, basarse en evaluaciones anteriores (artículo 27, apartado 2).

art. 49, ap. 4, art. 74, ap. 8

Registro y supervisión

Los sistemas de alto riesgo de los puntos 1, 6 y 7 del anexo III en los ámbitos de las fuerzas del orden, la migración, el asilo y la gestión del control fronterizo se registran en una sección segura no pública de la base de datos de la UE; solo la Comisión y las autoridades nacionales del artículo 74, apartado 8 tienen acceso (artículo 49, apartado 4). Para los sistemas del punto 1 utilizados con fines policiales, de gestión de fronteras y de justicia y democracia, y para los puntos 6, 7 y 8, los Estados miembros designan como autoridades de vigilancia del mercado a las autoridades de control de protección de datos competentes con arreglo al Reglamento (UE) 2016/679 (RGPD) o a la Directiva (UE) 2016/680, o a otra autoridad designada con arreglo a las mismas condiciones de los artículos 41 a 44 de la Directiva (UE) 2016/680 (artículo 74, apartado 8).

art. 46, ap. 2, art. 46, ap. 3

Uso urgente sin autorización

En una situación de urgencia debidamente justificada por razones excepcionales de seguridad pública, o ante una amenaza específica, importante e inminente para la vida o la seguridad física de las personas físicas, las autoridades policiales o de protección civil pueden poner en servicio un sistema de alto riesgo concreto sin la autorización de la autoridad de vigilancia del mercado del artículo 46, apartado 1, siempre que dicha autorización se solicite durante o después del uso sin demora indebida. Si se rechaza, el uso cesa de inmediato y todos los resultados y salidas se descartan de inmediato (artículo 46, apartado 2). La autoridad de vigilancia del mercado no tiene que informar a la Comisión y a los demás Estados miembros de los datos operativos sensibles relativos a las actividades de las autoridades policiales (artículo 46, apartado 3).

art. 113, c i, art. 111, ap. 2

Fechas

Los requisitos para los sistemas de alto riesgo del anexo III se aplican a partir del 2 de diciembre de 2027 (artículo 113, letra c, inciso i). Un sistema de alto riesgo introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si, a partir de entonces, sufre cambios significativos en su diseño. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111, apartado 2). Las prohibiciones del artículo 5, apartado 1, letras d, e, g y h, se aplican desde el 2 de febrero de 2025 (artículo 113, letra a).

art. 2, ap. 3, art. 2, ap. 6, art. 2, ap. 8

Límites del ámbito de aplicación

El reglamento no se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión ni a los sistemas de IA cuando y en la medida en que se utilicen exclusivamente con fines militares, de defensa o de seguridad nacional (artículo 2, apartado 3). No se aplica a las autoridades públicas de terceros países ni a las organizaciones internacionales que utilicen sistemas de IA en el marco de la cooperación internacional o de acuerdos de cooperación policial y judicial con la Unión o con uno o varios Estados miembros, siempre que ese tercer país u organización ofrezca garantías adecuadas con respecto a la protección de los derechos y libertades fundamentales (artículo 2, apartado 4). No se aplica a los sistemas o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la única finalidad de investigación y desarrollo científicos (artículo 2, apartado 6), ni a las actividades de investigación, ensayo o desarrollo previas a la introducción en el mercado o la puesta en servicio de un sistema; los ensayos en condiciones reales no quedan cubiertos por esa exclusión (artículo 2, apartado 8). No se aplica a los sistemas de IA publicados con licencias libres y de código abierto, salvo que se introduzcan en el mercado o se pongan en servicio como sistemas de IA de alto riesgo o como sistema de IA que entre en el ámbito del artículo 5 o del artículo 50 (artículo 2, apartado 12).

art. 99, art. 100

Multas

Infracción de una prohibición del artículo 5: hasta 35 millones EUR o, si el infractor es una empresa, hasta el 7 % de su volumen de negocios mundial total del ejercicio financiero anterior, si esta cuantía es superior (artículo 99, apartado 3). Incumplimiento de las obligaciones de los proveedores del artículo 16, de los responsables del despliegue del artículo 26 o de transparencia del artículo 50: hasta 15 millones EUR o el 3 %, si esta cuantía es superior (artículo 99, apartado 4). Información incorrecta, incompleta o engañosa facilitada en respuesta a una solicitud a organismos notificados o autoridades nacionales competentes: hasta 7,5 millones EUR o el 1 %, si esta cuantía es superior (artículo 99, apartado 5). Para las pymes, incluidas las empresas emergentes, cada multa llega como máximo a esos porcentajes o a esa cuantía, la que sea inferior (artículo 99, apartado 6); para las pequeñas empresas de mediana capitalización esto vale para las multas de los apartados 4 y 5 (artículo 99, apartado 6a). Cada Estado miembro establece en qué medida pueden imponerse multas a las autoridades públicas (artículo 99, apartado 8). El Supervisor Europeo de Protección de Datos puede imponer a las instituciones, órganos y organismos de la Unión multas de hasta 1,5 millones EUR por infringir el artículo 5 y de hasta 750 000 EUR por los demás requisitos (artículo 100).

Anexo III, 6, b

Ejemplo: una herramienta tipo polígrafo

Ejemplo: una herramienta que las autoridades policiales usan como polígrafo o herramienta similar en interrogatorios entra en el anexo III, punto 6, letra b.

Anexo III, 6, c

Ejemplo: una herramienta de evaluación de la fiabilidad de pruebas

Ejemplo: un sistema que la policía usa para evaluar la fiabilidad de las pruebas en una investigación entra en el anexo III, punto 6, letra c.

Anexo III, 6, d

Ejemplo: una herramienta de riesgo de reincidencia

Ejemplo: una herramienta que evalúa el riesgo de reincidencia sin basarse únicamente en la elaboración de perfiles entra en el anexo III, punto 6, letra d; la que se basa únicamente en perfiles o rasgos de personalidad incurre en la prohibición del artículo 5, apartado 1, letra d, salvo que solo apoye una evaluación humana basada en hechos objetivos y verificables directamente relacionados con una actividad delictiva.