Artículo 9: gestión de riesgos en la IA de RR. HH.

El Reglamento no enumera riesgos específicos de la contratación o de la gestión de los trabajadores. El proveedor identifica los riesgos que surgen de su propia finalidad prevista.

• Un proceso continuo

  El sistema de gestión de riesgos es un proceso iterativo continuo, planificado y ejecutado durante todo el ciclo de vida del sistema, con revisiones y actualizaciones sistemáticas periódicas (artículo 9(2)).

• Cuatro pasos

  El proceso identifica y analiza los riesgos conocidos y razonablemente previsibles para la salud, la seguridad o los derechos fundamentales. Estima y evalúa los riesgos en el uso conforme a la finalidad prevista y en condiciones de uso indebido razonablemente previsible. Evalúa los riesgos que muestran los datos de la vigilancia poscomercialización (artículo 72) y adopta medidas de gestión de riesgos específicas (artículo 9(2), letras a) a d)).

• El riesgo residual debe ser aceptable

  El riesgo residual de cada peligro y el riesgo residual global deben considerarse aceptables. Las medidas deben eliminar o reducir los riesgos mediante el diseño y el desarrollo, en la medida en que sea técnicamente viable, y añadir medidas de mitigación y control cuando proceda. También deben facilitar a los responsables del despliegue (las organizaciones que usan el sistema) la información exigida por el artículo 13 y, cuando proceda, formación (artículo 9(5)).

• Solo los riesgos que el diseño o la información pueden abordar

  El artículo 9 solo se refiere a los riesgos que pueden mitigarse o eliminarse de forma razonable mediante el desarrollo o el diseño del sistema, o mediante el suministro de información técnica adecuada (artículo 9(3)).

• Pruebas con métricas definidas de antemano

  Las pruebas sirven para identificar las medidas más adecuadas y deben mostrar que el sistema funciona de forma coherente para su finalidad prevista (artículo 9(6)). Se realizan, según proceda, durante el desarrollo y, en cualquier caso, antes de introducir el sistema en el mercado o ponerlo en servicio (artículo 9(8)). Usan métricas y umbrales probabilísticos definidos previamente. Las pruebas en condiciones reales son posibles conforme al artículo 60 (artículo 9(7)).

• Menores y grupos vulnerables

  Los proveedores deben considerar si es probable que el sistema tenga un impacto negativo en las personas menores de 18 años y, según proceda, en otros colectivos vulnerables (artículo 9(9)).

La tecnología de recursos humanos no es una categoría del Reglamento. Lo que cuenta es el uso que enumera el anexo III, punto 4 («Empleo, gestión de los trabajadores y acceso al autoempleo»).

• Punto 4, letra a): contratación y selección

  Sistemas de IA destinados a ser utilizados para la contratación o la selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar las solicitudes de empleo y evaluar a los candidatos.

• Punto 4, letra b): relaciones de índole laboral

  Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones de índole laboral o a la promoción o rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en el marco de dichas relaciones.

• Existe una excepción, y nunca cubre la elaboración de perfiles

  Un sistema del anexo III no es de alto riesgo si no plantea un riesgo importante de daño para la salud, la seguridad o los derechos fundamentales de las personas físicas, incluso al no influir sustancialmente en el resultado de la toma de decisiones. La excepción solo se aplica cuando se cumple cualquiera de las cuatro condiciones del artículo 6(3), letras a) a d). Un sistema que elabora perfiles de personas físicas es siempre de alto riesgo. Un proveedor que considere que su sistema no es de alto riesgo debe documentar su evaluación antes de introducirlo en el mercado o ponerlo en servicio (artículo 6(4)). La Comisión debía proporcionar directrices con ejemplos prácticos a más tardar el 2 de febrero de 2026 (artículo 6(5)).

• El desarrollador del software es el proveedor, el empleador que lo utiliza es un responsable del despliegue

  El proveedor es la persona física o jurídica, autoridad pública, agencia u otro organismo que desarrolla un sistema de IA, o que lo hace desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). Los proveedores de sistemas de alto riesgo deben garantizar que sus sistemas cumplen los requisitos de la sección 2 (artículos 8 a 15) (artículo 16, letra a)). El responsable del despliegue es una persona física o jurídica, autoridad pública, agencia u otro organismo que utiliza un sistema de IA bajo su propia autoridad, salvo cuando se utiliza en el contexto de una actividad personal de carácter no profesional (artículo 3, punto 4). Un empleador que utiliza un sistema de recursos humanos es un responsable del despliegue con las obligaciones del artículo 26. Un responsable del despliegue pasa a ser proveedor si pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, le hace una modificación sustancial o modifica la finalidad prevista de un sistema de modo que pase a ser de alto riesgo (artículo 25(1)).

• Fechas, sistemas anteriores y exclusiones del ámbito de aplicación

  Los requisitos para los sistemas del anexo III se aplican desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)). Un sistema de IA de alto riesgo introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si, a partir de ella, su diseño sufre cambios significativos. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)). El Reglamento no se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión (artículo 2(3)), ni a los sistemas o modelos de IA, incluidos sus resultados, desarrollados y puestos en servicio específicamente con la finalidad exclusiva de la investigación y el desarrollo científicos (artículo 2(6)), ni a las actividades de investigación, prueba o desarrollo previas a la introducción en el mercado o la puesta en servicio de un sistema; las pruebas en condiciones reales no quedan excluidas (artículo 2(8)). No se aplica a las obligaciones de los responsables del despliegue que sean personas físicas y utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2(10)). Los sistemas de IA publicados con licencias libres y de código abierto quedan fuera, salvo que se introduzcan en el mercado o se pongan en servicio como sistemas de alto riesgo o como sistemas del artículo 5 o 50 (artículo 2(12)).

• Comprobar primero la prohibición de inferir emociones

  El artículo 5(1), letra f), prohíbe la introducción en el mercado, la puesta en servicio para este fin específico o el uso de sistemas de IA para inferir las emociones de una persona física en los lugares de trabajo y en los centros educativos, excepto cuando el sistema de IA esté destinado a ser instalado o introducido en el mercado por motivos médicos o de seguridad. Se aplica desde el 2 de febrero de 2025 (artículo 113, letra a)). El Reglamento no define «lugar de trabajo». Si la prohibición alcanza a los candidatos en entrevistas por vídeo es una cuestión de interpretación que esta página no resuelve. El incumplimiento del artículo 5 se sanciona con multas de hasta 35 millones de EUR o, para una empresa, de hasta el 7 % del volumen de negocios anual mundial, si esta cuantía es superior (artículo 99(3)).

• Sin lista de riesgos de recursos humanos y sin métrica de equidad

  El Reglamento no nombra riesgos específicos de la tecnología de recursos humanos ni ninguna métrica de equidad. El proveedor identifica los riesgos conocidos y razonablemente previsibles para la salud, la seguridad o los derechos fundamentales cuando el sistema se usa conforme a su finalidad prevista (artículo 9(2), letra a)). Las pruebas se realizan con arreglo a parámetros y umbrales probabilísticos definidos previamente y adecuados a la finalidad prevista (artículo 9(8)).

• El Reglamento no nombra ninguna norma; existen normas armonizadas y directrices

  El propio Reglamento no nombra ninguna norma para la gestión de riesgos. Pide tener en cuenta el estado de la técnica generalmente reconocido (artículo 8(1)). Los sistemas de IA de alto riesgo conformes con normas armonizadas cuyas referencias se hayan publicado en el Diario Oficial se presumen conformes con los requisitos de la sección 2 que esas normas cubran (artículo 40(1)). La Comisión elaborará directrices sobre la aplicación de los requisitos de los artículos 8 a 15 (artículo 96(1), letra a)). Cualquier otra norma que use un proveedor es una decisión de diseño voluntaria.

Son ejemplos, no requisitos.

• Ejemplo: una herramienta de clasificación (artículo 9(2), letra a))

  El proveedor de una herramienta de clasificación de currículos registra que la herramienta puede puntuar de forma distinta a los candidatos cuyo recorrido profesional difiere de los datos de entrenamiento, por ejemplo tras una interrupción de carrera. El proveedor decide qué casos de prueba y medidas se ajustan a la finalidad prevista.

• Ejemplo: personas menores de 18 años (artículo 9(9))

  El proveedor de una herramienta que asigna candidatos a plazas de aprendizaje documenta si es probable que la herramienta tenga un impacto negativo en las personas menores de 18 años.

• Artículo 9: sistema de gestión de riesgos para la IA de alto riesgo

  El artículo tal como lo formula el Reglamento, para todos los sectores.

• Reglamento IA RRHH: conformidad tecnológica

  Cómo alcanza el Reglamento a la IA para la contratación, la selección y la gestión de los trabajadores.

• Artículo 10: gobernanza de datos en IA de RR. HH.

  Gobernanza de datos, examen de sesgos y artículo 4 bis para la tecnología de recursos humanos.

• Artículo 14: supervisión humana en la IA de RR. HH.

  Las medidas de supervisión humana para la tecnología de recursos humanos.