Artículo 10 para la IA biométrica: datos y gobernanza de datos

El artículo 10 fija criterios de calidad para los datos de entrenamiento, validación y prueba. No menciona, para ningún sector, un conjunto de datos, un tamaño ni una prueba de consentimiento.

• art. 10(1)
  Criterios de calidad para los sistemas entrenados

  Los sistemas de IA de alto riesgo que utilicen técnicas que impliquen el entrenamiento de modelos de IA con datos deben desarrollarse a partir de conjuntos de datos de entrenamiento, validación y prueba que cumplan los criterios de calidad a que se refieren los apartados 2, 3 y 4 del artículo 10 y el artículo 4 bis, apartado 1 siempre que se utilicen tales conjuntos de datos.

• art. 10(2)
  Prácticas de gobernanza y gestión de datos

  Los conjuntos de datos de entrenamiento, validación y prueba estarán sujetos a prácticas de gobernanza y gestión de datos adecuadas a la finalidad prevista del sistema. Estas prácticas se centrarán en particular en: las decisiones de diseño pertinentes; los procesos de recogida de datos y el origen de los datos y, en el caso de los datos personales, la finalidad original de la recogida; las operaciones de tratamiento para la preparación de los datos, como la anotación, el etiquetado, la depuración, la actualización, el enriquecimiento y la agregación; la formulación de hipótesis, en particular en lo que respecta a la información que se supone que miden y representan los datos; una evaluación de la disponibilidad, la cantidad y la adecuación de los conjuntos de datos necesarios; y la determinación de posibles lagunas o deficiencias de los datos que impidan el cumplimiento del Reglamento y de cómo pueden subsanarse.

• art. 10(2)(f)–(g)
  Examinar y tratar los posibles sesgos

  Las prácticas deben abarcar también un examen de los posibles sesgos que puedan afectar a la salud y la seguridad de las personas, repercutir negativamente en los derechos fundamentales o dar lugar a algún tipo de discriminación prohibida por el Derecho de la Unión, especialmente cuando los datos de salida influyan en las informaciones de entrada de futuras operaciones (letra f)). Deben abarcar medidas adecuadas para detectar, prevenir y reducir los posibles sesgos detectados con arreglo a la letra f) (letra g)).

• art. 10(3)
  Pertinentes, representativos y lo más exentos de errores posible

  Los conjuntos de datos deben ser pertinentes, suficientemente representativos y, en la mayor medida posible, estar exentos de errores y ser completos en vista de su finalidad prevista. Deben tener las propiedades estadísticas adecuadas, por ejemplo, cuando proceda, en lo que respecta a las personas o los colectivos de personas en relación con los que se prevé utilizar el sistema. Estas características pueden cumplirse en los conjuntos de datos individuales o en una combinación de estos.

• art. 10(4)
  Entorno geográfico, contextual, conductual o funcional

  Los conjuntos de datos tendrán en cuenta, en la medida necesaria para la finalidad prevista, las características o elementos particulares del entorno geográfico, contextual, conductual o funcional específico en el que se prevé utilizar el sistema.

• art. 10(1)
  Categorías especiales de datos personales: artículo 4 bis

  En la medida en que sea estrictamente necesario para garantizar la detección y corrección de sesgos con arreglo al artículo 10, apartado 2, letras f) y g), los proveedores de sistemas de alto riesgo podrán tratar excepcionalmente categorías especiales de datos personales, siempre que se ofrezcan las garantías adecuadas para los derechos y libertades fundamentales de las personas físicas (artículo 4 bis, apartado 1). Deben cumplirse las seis condiciones, además de los Reglamentos (UE) 2016/679 y (UE) 2018/1725 y de la Directiva (UE) 2016/680, según proceda. La detección y corrección de sesgos no puede llevarse a cabo de forma efectiva tratando otros datos, incluidos los sintéticos o anonimizados. Los datos están sujetos a limitaciones técnicas a la reutilización y a medidas punteras de seguridad y protección de la intimidad, incluida la seudonimización. Están protegidos, con controles estrictos y documentación del acceso, de modo que solo las personas autorizadas tengan acceso. No son transmitidos, transferidos ni consultados de otro modo por terceros. Se suprimen una vez corregido el sesgo o cuando haya concluido el período de conservación, si esto ocurre antes. Los registros de actividades de tratamiento incluyen los motivos por los que el tratamiento era estrictamente necesario y por los que el objetivo no podía lograrse con otros datos. Los proveedores y responsables del despliegue de otros sistemas y modelos de IA, y los responsables del despliegue de sistemas de IA de alto riesgo, podrán tratar excepcionalmente esos datos en la medida en que sea estrictamente necesario para la detección y corrección de sesgos y se apliquen todas las condiciones y garantías del apartado 1 (artículo 4 bis, apartado 2). La última frase del artículo 4 bis, apartado 2 precisa que este apartado no crea ninguna obligación de llevar a cabo dicha detección y corrección de sesgos.

• art. 10(6)
  Sistemas no entrenados

  Para el desarrollo de sistemas de IA de alto riesgo que no utilicen técnicas que impliquen el entrenamiento de modelos de IA, los apartados 2, 3 y 4 del artículo 10 y el artículo 4 bis, apartado 1 se aplican únicamente a los conjuntos de datos de prueba.

El artículo 10 solo obliga a los sistemas de IA de alto riesgo. Las filas siguientes muestran cuándo la IA biométrica es de alto riesgo, qué prohíbe el artículo 5 y quién está obligado.

• El anexo III contiene un ámbito «Biometría», limitado a tres tipos de sistemas

  El anexo III contiene un ámbito «Biometría», en la medida en que su uso esté permitido por el Derecho de la Unión o nacional aplicable. El ámbito se limita a las letras a) a c) del punto 1; el Reglamento no tiene un régimen más amplio de biometría. La palabra «biometría» de este sitio designa estos sistemas. La letra a) del punto 1 abarca los sistemas de identificación biométrica remota. Quedan excluidos los sistemas de IA destinados a ser utilizados con fines de verificación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que dice ser. La letra b) abarca los sistemas de IA destinados a ser utilizados para la categorización biométrica en función de atributos o características sensibles o protegidos basada en la inferencia de dichos atributos o características. La letra c) abarca los sistemas de IA destinados a ser utilizados para el reconocimiento de emociones. Un sistema de identificación biométrica remota identifica a personas físicas sin su participación activa, normalmente a distancia, comparando los datos biométricos de una persona con los contenidos en una base de datos de referencia (artículo 3, punto 41). La verificación biométrica es la verificación automatizada «uno a uno», incluida la autenticación, de la identidad de personas físicas comparando sus datos biométricos con datos biométricos facilitados previamente (artículo 3, punto 36). Un sistema biométrico que el punto 1 no menciona es de alto riesgo solo si otro punto del anexo III o el anexo I lo contempla.

• El artículo 5 prohíbe algunas prácticas biométricas

  Algunas prácticas biométricas están prohibidas. El artículo 5, apartado 1 prohíbe, entre otras: los sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión (letra e)); los sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, excepto cuando el uso esté destinado a motivos médicos o de seguridad (letra f)); los sistemas de categorización biométrica que clasifiquen individualmente a las personas físicas sobre la base de sus datos biométricos para deducir o inferir su raza, opiniones políticas, afiliación sindical, convicciones religiosas o filosóficas, vida sexual u orientación sexual (letra g); la prohibición no incluye el etiquetado o filtrado de conjuntos de datos biométricos adquiridos lícitamente, como imágenes, basado en datos biométricos ni la categorización de datos biométricos en el ámbito de la garantía del cumplimiento del Derecho); y el uso de sistemas de identificación biométrica remota «en tiempo real» en espacios de acceso público con fines de garantía del cumplimiento del Derecho, salvo y en la medida en que sea estrictamente necesario para uno de tres objetivos (letra h)). Estas prohibiciones se aplican desde el 2 de febrero de 2025 (artículo 113, letra a)). Las multas pueden alcanzar hasta 35 millones de EUR o, si el infractor es una empresa, hasta el 7 % de su volumen de negocios mundial anual total, si esta cuantía es superior (artículo 99, apartado 3). La página del sector biometría da los detalles.

• El artículo 5, apartado 1, letra e), se dirige a los sistemas que crean bases de datos faciales

  El artículo 5, apartado 1, letra e) prohíbe la introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA que creen o amplíen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet o de circuitos cerrados de televisión. Su texto se refiere a los sistemas de IA que crean tales bases. No menciona conjuntos de datos de entrenamiento, consentimiento ni ningún conjunto de datos concreto. Si una práctica de entrenamiento determinada queda cubierta es una cuestión para un jurista.

• El artículo 6, apartado 3, puede excluir un sistema del anexo III

  Un sistema del anexo III, punto 1, es de alto riesgo con arreglo al artículo 6, apartado 2. Con arreglo al artículo 6, apartado 3, no lo es si no plantea un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales. Eso incluye no influir sustancialmente en el resultado de la toma de decisiones. El Reglamento aplica esta excepción cuando se cumple cualquiera de las condiciones siguientes (artículo 6, apartado 3, letras a) a d)). Que el sistema esté destinado a realizar una tarea de procedimiento limitada. O que esté destinado a mejorar el resultado de una actividad humana previamente realizada. O que esté destinado a detectar patrones de toma de decisiones o desviaciones con respecto a patrones de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana previamente realizada, ni a influir en ella, sin una revisión humana adecuada. O que esté destinado a realizar una tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III. Cómo se combinan estas condiciones con el criterio del riesgo importante es una cuestión para un jurista. El sistema siempre es de alto riesgo si efectúa la elaboración de perfiles de personas físicas. El artículo 4, punto 4, del RGPD define la elaboración de perfiles (artículo 3, punto 52). Si un sistema biométrico concreto la efectúa también es una cuestión para un jurista. El proveedor que se acoja a la excepción documenta su evaluación antes de introducir el sistema en el mercado o ponerlo en servicio. También debe registrar el sistema (artículo 6, apartado 4, artículo 49, apartado 2). Aparte, el propio punto 1, letra a), excluye los sistemas de IA destinados a ser utilizados con fines de verificación biométrica cuya única finalidad sea confirmar que una persona física concreta es la persona que dice ser.

• Proveedor y responsable del despliegue

  El proveedor desarrolla un sistema de IA, o lo manda desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). La puesta en servicio incluye el suministro para uso propio del proveedor (artículo 3, punto 11). Una empresa o autoridad pública que desarrolla un sistema biométrico y lo pone en servicio bajo su propio nombre es, por tanto, proveedor. Una empresa o autoridad pública que utiliza un sistema bajo su propia autoridad es un responsable del despliegue (artículo 3, punto 4). El responsable del despliegue pasa a ser proveedor en tres casos. Pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, sin perjuicio de los acuerdos contractuales que estipulen que las obligaciones se asignan de otro modo. Realiza una modificación sustancial de ese sistema que lo deja como de alto riesgo. O cambia la finalidad prevista de un sistema que no era de alto riesgo de modo que pase a serlo (artículo 25, apartado 1). El proveedor que inicialmente introdujo el sistema en el mercado o lo puso en servicio deja entonces de ser considerado proveedor de ese sistema específico y debe cooperar estrechamente con el nuevo proveedor (artículo 25, apartado 2). Esto no se aplica si el proveedor inicial indicó claramente que su sistema no debe ser transformado en un sistema de alto riesgo.

• Fechas

  Los requisitos para estos usos del anexo III se aplican desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)). Un sistema introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si después sufre cambios significativos en su diseño. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111, apartado 2). Esta regla no abarca los sistemas mencionados en el artículo 111, apartado 1.

• Multas

  Los proveedores deben velar por que sus sistemas de alto riesgo cumplan los requisitos de la sección 2 del capítulo III, que incluye los artículos 9 a 15 (artículo 16, letra a)). El incumplimiento de las obligaciones de los proveedores del artículo 16 o de las de los responsables del despliegue del artículo 26 puede sancionarse con multa. La multa es de hasta 15 millones de EUR o, si el infractor es una empresa, de hasta el 3 % de su volumen de negocios mundial total del ejercicio anterior, si esta cuantía es superior (artículo 99, apartado 4, letras a) y e)). Para las pymes, incluidas las empresas emergentes, cada multa tiene como límite la cuantía menor de las dos (artículo 99, apartado 6). Lo mismo rige para las pequeñas empresas de mediana capitalización (artículo 3, punto 14 ter, artículo 99, apartado 6 bis). Cada Estado miembro establece normas que determinan en qué medida es posible imponer multas administrativas a autoridades y organismos públicos establecidos en dicho Estado miembro (artículo 99, apartado 8).

• Alcance y límites del Reglamento

  El Reglamento se aplica a los proveedores y responsables del despliegue establecidos o ubicados en un tercer país cuando los resultados de salida generados por el sistema de IA se utilicen en la Unión (artículo 2, apartado 1, letra c)). No se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión y no afecta a las competencias de los Estados miembros en materia de seguridad nacional (artículo 2, apartado 3). El Reglamento no se aplica a los sistemas o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la investigación y el desarrollo científicos como única finalidad (artículo 2, apartado 6). Tampoco se aplica a la actividad de investigación, prueba o desarrollo anterior a la introducción de un sistema en el mercado o su puesta en servicio. Las pruebas en condiciones reales no están cubiertas por esa exclusión (artículo 2, apartado 8). Los sistemas de IA publicados con arreglo a licencias libres y de código abierto quedan fuera del Reglamento. Esa exclusión no se aplica si se introducen en el mercado o se ponen en servicio como sistemas de IA de alto riesgo, o si entran en el ámbito de aplicación del artículo 5 o del artículo 50 (artículo 2, apartado 12). No se aplica a los sistemas de IA cuando y en la medida en que se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificación, exclusivamente con fines militares, de defensa o de seguridad nacional, independientemente del tipo de entidad que lleve a cabo esas actividades (artículo 2, apartado 3). No se aplica a las autoridades públicas de terceros países ni a las organizaciones internacionales incluidas en su ámbito de aplicación conforme al artículo 2, apartado 1, cuando utilicen sistemas de IA en el marco de acuerdos o de la cooperación internacionales con fines de garantía del cumplimiento del Derecho y cooperación judicial con la Unión o con uno o varios Estados miembros, siempre que tal tercer país u organización internacional ofrezca garantías suficientes con respecto a la protección de los derechos y libertades fundamentales de las personas (artículo 2, apartado 4). No se aplica a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2, apartado 10). El Derecho de la Unión en materia de protección de los datos personales, la intimidad y la confidencialidad de las comunicaciones se aplica a los datos personales tratados en relación con los derechos y obligaciones del Reglamento. Sin perjuicio del artículo 4 bis y del artículo 59, el Reglamento no afecta a los Reglamentos (UE) 2016/679 y (UE) 2018/1725 ni a las Directivas 2002/58/CE y (UE) 2016/680 (artículo 2, apartado 7).

• Ningún valor ni conjunto de datos nombrado para la biometría

  El artículo 10 no fija para los sistemas biométricos ningún tamaño mínimo de conjunto de datos, reparto demográfico, prueba de consentimiento ni conjunto de datos concreto. Exige conjuntos de datos suficientemente representativos y con las propiedades estadísticas adecuadas, incluso, cuando proceda, en lo que respecta a las personas o los colectivos de personas (artículo 10, apartado 3). El Reglamento no menciona por sí mismo ninguna norma. Las normas armonizadas cuyas referencias se publiquen en el Diario Oficial dan una presunción de conformidad con la sección 2, en la medida en que cubran los requisitos (artículo 40, apartado 1). Se presume que los sistemas de alto riesgo entrenados y probados con datos que reflejen el entorno geográfico, conductual, contextual o funcional específico cumplen el artículo 10, apartado 4 (artículo 42, apartado 1). La Comisión elaborará directrices sobre la aplicación de los artículos 8 a 15, 25 y 26 (artículo 96, apartado 1, letra a)).

• Ejemplo: registrar el origen de las imágenes faciales

  Ejemplo, no exigido por el Reglamento: para cada conjunto de imágenes faciales, un proveedor podría registrar la fuente, el método de recogida y la finalidad original de la recogida. Esto encaja con las prácticas sobre procesos de recogida y origen de los datos del artículo 10, apartado 2, letra b).

• Ejemplo: comprobar las tasas de error por grupos

  Ejemplo, no exigido por el Reglamento: un proveedor podría probar por separado las tasas de coincidencias erróneas y no detectadas para los colectivos de personas con los que probablemente se utilizará el sistema, como una forma de examinar los posibles sesgos con arreglo al artículo 10, apartado 2, letra f). El Reglamento no prescribe ni los colectivos ni las medidas.

• Artículo 10: gobernanza de datos para la IA de alto riesgo

  El artículo 10 para todos los sectores: requisitos, fechas y multas.

• Reglamento IA biometría: guía de cumplimiento

  El resumen de biometría: lo que cubre el Reglamento, lo que prohíbe y las normas específicas de biometría.

• Artículo 12 para la IA biométrica: conservación de registros

  La IA biométrica y el artículo 12: el contenido mínimo de los archivos de registro para la identificación biométrica remota.

• Prácticas de IA prohibidas: artículo 5 del reglamento IA

  El artículo 5 al completo: todas las prácticas de IA prohibidas, incluida la extracción no selectiva de imágenes faciales.