Artículo 10: gobernanza de datos en IA de RR. HH.

El Reglamento no fija un tamaño mínimo de datos, ni una cuota, ni una lista de grupos protegidos. Fija criterios de calidad y prácticas de gobernanza.

• Prácticas de gobernanza de datos

  Las prácticas deben ser adecuadas a la finalidad prevista. Abarcan las decisiones de diseño, la recopilación de datos y su origen y, para los datos personales, la finalidad original de la recopilación. Abarcan la preparación de los datos, como la anotación, el etiquetado, la depuración, la actualización, el enriquecimiento y la agregación. También abarcan las hipótesis sobre lo que los datos miden y representan, y la evaluación de la disponibilidad, la cantidad y la adecuación de los conjuntos de datos (artículo 10(2), letras a) a e)).

• Examen de sesgos y medidas

  Las prácticas abarcan también el examen de los sesgos que puedan afectar a la salud y la seguridad, repercutir en los derechos fundamentales o dar lugar a una discriminación prohibida. Incluyen medidas para detectar, prevenir y mitigar esos sesgos, y la detección de lagunas en los datos que impidan el cumplimiento del Reglamento (artículo 10(2), letras f) a h)).

• Calidad de los conjuntos de datos

  Los conjuntos de datos deben ser pertinentes, suficientemente representativos y, en la mayor medida posible, carecer de errores y estar completos en vista de la finalidad prevista. Deben tener las propiedades estadísticas adecuadas, incluso, cuando proceda, en lo que respecta a las personas o los grupos de personas en relación con los cuales se pretende utilizar el sistema (artículo 10(3)).

• El entorno de uso

  Los conjuntos de datos deben tener en cuenta, en la medida en que lo exija la finalidad prevista, las características propias del entorno geográfico, contextual, conductual o funcional de uso (artículo 10(4)).

• Sistemas sin entrenamiento de modelos

  En los sistemas de IA de alto riesgo que no entrenan modelos de IA, el artículo 10(2) a (4) y el artículo 4 bis(1) se aplican únicamente a los conjuntos de datos de prueba (artículo 10(6)).

La tecnología de recursos humanos no es una categoría del Reglamento. Lo que cuenta es el uso que enumera el anexo III, punto 4 («Empleo, gestión de los trabajadores y acceso al autoempleo»).

• Punto 4, letra a): contratación y selección

  Sistemas de IA destinados a ser utilizados para la contratación o la selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar las solicitudes de empleo y evaluar a los candidatos.

• Punto 4, letra b): relaciones de índole laboral

  Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones de índole laboral o a la promoción o rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en el marco de dichas relaciones.

• Existe una excepción, y nunca cubre la elaboración de perfiles

  Un sistema del anexo III no es de alto riesgo si no plantea un riesgo importante de daño para la salud, la seguridad o los derechos fundamentales de las personas físicas, incluso al no influir sustancialmente en el resultado de la toma de decisiones. La excepción solo se aplica cuando se cumple cualquiera de las cuatro condiciones del artículo 6(3), letras a) a d). Un sistema que elabora perfiles de personas físicas es siempre de alto riesgo. Un proveedor que considere que su sistema no es de alto riesgo debe documentar su evaluación antes de introducirlo en el mercado o ponerlo en servicio (artículo 6(4)). La Comisión debía proporcionar directrices con ejemplos prácticos a más tardar el 2 de febrero de 2026 (artículo 6(5)).

• El desarrollador del software es el proveedor, el empleador que lo utiliza es un responsable del despliegue

  El proveedor es la persona física o jurídica, autoridad pública, agencia u otro organismo que desarrolla un sistema de IA, o que lo hace desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). Los proveedores de sistemas de alto riesgo deben garantizar que sus sistemas cumplen los requisitos de la sección 2 (artículos 8 a 15) (artículo 16, letra a)). El responsable del despliegue es una persona física o jurídica, autoridad pública, agencia u otro organismo que utiliza un sistema de IA bajo su propia autoridad, salvo cuando se utiliza en el contexto de una actividad personal de carácter no profesional (artículo 3, punto 4). Un empleador que utiliza un sistema de recursos humanos es un responsable del despliegue con las obligaciones del artículo 26. Un responsable del despliegue pasa a ser proveedor si pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, le hace una modificación sustancial o modifica la finalidad prevista de un sistema de modo que pase a ser de alto riesgo (artículo 25(1)).

• Fechas, sistemas anteriores y exclusiones del ámbito de aplicación

  Los requisitos para los sistemas del anexo III se aplican desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)). Un sistema de IA de alto riesgo introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si, a partir de ella, su diseño sufre cambios significativos. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)). El Reglamento no se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión (artículo 2(3)), ni a los sistemas o modelos de IA, incluidos sus resultados, desarrollados y puestos en servicio específicamente con la finalidad exclusiva de la investigación y el desarrollo científicos (artículo 2(6)), ni a las actividades de investigación, prueba o desarrollo previas a la introducción en el mercado o la puesta en servicio de un sistema; las pruebas en condiciones reales no quedan excluidas (artículo 2(8)). No se aplica a las obligaciones de los responsables del despliegue que sean personas físicas y utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2(10)). Los sistemas de IA publicados con licencias libres y de código abierto quedan fuera, salvo que se introduzcan en el mercado o se pongan en servicio como sistemas de alto riesgo o como sistemas del artículo 5 o 50 (artículo 2(12)).

• El artículo 4 bis permite categorías especiales de datos para detectar sesgos, con condiciones

  Los proveedores de sistemas de alto riesgo pueden tratar excepcionalmente categorías especiales de datos personales en la medida estrictamente necesaria para detectar y corregir sesgos con arreglo al artículo 10(2), letras f) y g), si se cumplen todas las condiciones del artículo 4 bis(1), por ejemplo que otros datos, incluidos los sintéticos o anonimizados, no permitan lograr el objetivo. Los responsables del despliegue de sistemas de alto riesgo pueden hacerlo con arreglo al artículo 4 bis(2), con las mismas condiciones y garantías. El artículo 4 bis(2) no crea ninguna obligación de realizar esa detección y corrección de sesgos. El RGPD sigue aplicándose junto a él (artículo 2(7)).

• Empleadores: los datos de entrada que controlan

  En la medida en que el responsable del despliegue ejerza el control sobre los datos de entrada, garantizará que los datos de entrada sean pertinentes y suficientemente representativos en vista de la finalidad prevista del sistema de alto riesgo (artículo 26(4)).

• Sin cuota, sin lista de características protegidas, sin métrica de equidad

  El Reglamento no fija ninguna cuota ni regla de paridad demográfica, y el artículo 10 no enumera características protegidas; se refiere a la discriminación prohibida por el Derecho de la Unión (artículo 10(2), letra f)). Otras disposiciones nombran rasgos sensibles para sus propios fines (artículo 5(1), letra g), anexo III, punto 1, letra b)). El proveedor decide cómo examinar y medir los sesgos para su finalidad prevista.

• Existe una presunción para el artículo 10(4)

  Los sistemas de IA de alto riesgo entrenados y probados con datos que reflejen el entorno geográfico, comportamental, contextual o funcional específico en el que se pretende utilizarlos se presumen conformes con los requisitos pertinentes del artículo 10(4) (artículo 42(1)).

• El Reglamento no nombra ninguna norma; existen normas armonizadas y directrices

  El propio Reglamento no nombra ninguna norma para la calidad de los datos. Pide tener en cuenta el estado de la técnica generalmente reconocido (artículo 8(1)). Los sistemas de IA de alto riesgo conformes con normas armonizadas cuyas referencias se hayan publicado en el Diario Oficial se presumen conformes con los requisitos de la sección 2 que esas normas cubran (artículo 40(1)). La Comisión elaborará directrices sobre la aplicación de los requisitos de los artículos 8 a 15 (artículo 96(1), letra a)). Cualquier otra norma que use un proveedor es una decisión de diseño voluntaria.

Son ejemplos, no requisitos.

• Ejemplo: representatividad (artículo 10(3))

  El proveedor de una herramienta de cribado de currículos comprueba si sus datos de entrenamiento, validación y prueba contienen los grupos de candidatos a los que se destina la herramienta, y registra cualquier laguna (artículo 10(2), letra h)).

• Ejemplo: bucles de retroalimentación (artículo 10(2), letra f))

  Una herramienta de clasificación entrenada con decisiones de contratación pasadas puede repetir patrones del pasado. El proveedor lo examina, especialmente cuando los resultados de la herramienta influyen en los datos de los que aprende después.

• Artículo 10: gobernanza de datos para la IA de alto riesgo

  El artículo tal como lo formula el Reglamento, para todos los sectores.

• Reglamento IA RRHH: conformidad tecnológica

  Cómo alcanza el Reglamento a la IA para la contratación, la selección y la gestión de los trabajadores.

• Artículo 9: gestión de riesgos en la IA de RR. HH.

  La gestión de riesgos durante todo el ciclo de vida para la tecnología de recursos humanos.

• Artículo 13: transparencia en la IA de RR. HH.

  Las instrucciones de uso para la tecnología de recursos humanos y quién informa a candidatos y trabajadores.