Artículo 14: supervisión humana en la IA de RR. HH.

La supervisión es una obligación de diseño del proveedor. El Reglamento no fija horas de formación ni una norma sobre quién toma la decisión final de contratación.

• Supervisión eficaz desde el diseño

  Los sistemas de IA de alto riesgo deben diseñarse, también con herramientas de interfaz hombre-máquina adecuadas, de modo que personas físicas puedan supervisarlos eficazmente durante su uso. La supervisión tiene por objeto prevenir o reducir al mínimo los riesgos para la salud, la seguridad o los derechos fundamentales (artículo 14(1) y (2)).

• Medidas adecuadas al riesgo

  Las medidas de supervisión deben ser proporcionales a los riesgos, al nivel de autonomía y al contexto de uso. El proveedor las incorpora al sistema cuando es técnicamente viable, las identifica para que las aplique el responsable del despliegue (la organización que usa el sistema), o hace ambas cosas (artículo 14(3)).

• Qué deben poder hacer las personas designadas

  Según proceda y de forma proporcionada, las personas designadas deben poder entender las capacidades y limitaciones del sistema y vigilar su funcionamiento. Deben seguir siendo conscientes del sesgo de automatización e interpretar correctamente los resultados. Deben poder decidir no utilizar el sistema o descartar, invalidar o revertir sus resultados. Deben poder intervenir en el funcionamiento o interrumpir el sistema mediante un botón de parada o un procedimiento similar que lo lleve a una detención en condiciones seguras (artículo 14(4)).

• Sesgo de automatización

  El sesgo de automatización es la posible tendencia a confiar automáticamente, o en exceso, en los resultados de un sistema de IA de alto riesgo. Importa en particular en los sistemas que ofrecen información o recomendaciones para decisiones que deben tomar personas físicas (artículo 14(4), letra b)).

• La verificación por dos personas no es una norma de recursos humanos

  La verificación por separado por al menos dos personas físicas se aplica solo a los sistemas del anexo III, punto 1, letra a), la identificación biométrica remota (artículo 14(5)). No se aplica a los sistemas del anexo III, punto 4.

La tecnología de recursos humanos no es una categoría del Reglamento. Lo que cuenta es el uso que enumera el anexo III, punto 4 («Empleo, gestión de los trabajadores y acceso al autoempleo»).

• Punto 4, letra a): contratación y selección

  Sistemas de IA destinados a ser utilizados para la contratación o la selección de personas físicas, en particular para publicar anuncios de empleo específicos, analizar y filtrar las solicitudes de empleo y evaluar a los candidatos.

• Punto 4, letra b): relaciones de índole laboral

  Sistemas de IA destinados a ser utilizados para tomar decisiones que afecten a las condiciones de las relaciones de índole laboral o a la promoción o rescisión de relaciones contractuales de índole laboral, para la asignación de tareas a partir de comportamientos individuales o rasgos o características personales o para supervisar y evaluar el rendimiento y el comportamiento de las personas en el marco de dichas relaciones.

• Existe una excepción, y nunca cubre la elaboración de perfiles

  Un sistema del anexo III no es de alto riesgo si no plantea un riesgo importante de daño para la salud, la seguridad o los derechos fundamentales de las personas físicas, incluso al no influir sustancialmente en el resultado de la toma de decisiones. La excepción solo se aplica cuando se cumple cualquiera de las cuatro condiciones del artículo 6(3), letras a) a d). Un sistema que elabora perfiles de personas físicas es siempre de alto riesgo. Un proveedor que considere que su sistema no es de alto riesgo debe documentar su evaluación antes de introducirlo en el mercado o ponerlo en servicio (artículo 6(4)). La Comisión debía proporcionar directrices con ejemplos prácticos a más tardar el 2 de febrero de 2026 (artículo 6(5)).

• El desarrollador del software es el proveedor, el empleador que lo utiliza es un responsable del despliegue

  El proveedor es la persona física o jurídica, autoridad pública, agencia u otro organismo que desarrolla un sistema de IA, o que lo hace desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). Los proveedores de sistemas de alto riesgo deben garantizar que sus sistemas cumplen los requisitos de la sección 2 (artículos 8 a 15) (artículo 16, letra a)). El responsable del despliegue es una persona física o jurídica, autoridad pública, agencia u otro organismo que utiliza un sistema de IA bajo su propia autoridad, salvo cuando se utiliza en el contexto de una actividad personal de carácter no profesional (artículo 3, punto 4). Un empleador que utiliza un sistema de recursos humanos es un responsable del despliegue con las obligaciones del artículo 26. Un responsable del despliegue pasa a ser proveedor si pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, le hace una modificación sustancial o modifica la finalidad prevista de un sistema de modo que pase a ser de alto riesgo (artículo 25(1)).

• Fechas, sistemas anteriores y exclusiones del ámbito de aplicación

  Los requisitos para los sistemas del anexo III se aplican desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)). Un sistema de IA de alto riesgo introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si, a partir de ella, su diseño sufre cambios significativos. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)). El Reglamento no se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión (artículo 2(3)), ni a los sistemas o modelos de IA, incluidos sus resultados, desarrollados y puestos en servicio específicamente con la finalidad exclusiva de la investigación y el desarrollo científicos (artículo 2(6)), ni a las actividades de investigación, prueba o desarrollo previas a la introducción en el mercado o la puesta en servicio de un sistema; las pruebas en condiciones reales no quedan excluidas (artículo 2(8)). No se aplica a las obligaciones de los responsables del despliegue que sean personas físicas y utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2(10)). Los sistemas de IA publicados con licencias libres y de código abierto quedan fuera, salvo que se introduzcan en el mercado o se pongan en servicio como sistemas de alto riesgo o como sistemas del artículo 5 o 50 (artículo 2(12)).

• Personas competentes, formadas y con autoridad

  Los responsables del despliegue encomiendan la supervisión humana a personas físicas que tengan la competencia, la formación y la autoridad necesarias, así como el apoyo necesario (artículo 26(2)). El artículo 14 y el artículo 26(2) no fijan ningún número de horas de formación.

• Uso conforme a las instrucciones

  Los responsables del despliegue adoptan medidas técnicas y organizativas adecuadas para utilizar el sistema con arreglo a sus instrucciones de uso (artículo 26(1)) y supervisan su funcionamiento sobre la base de esas instrucciones (artículo 26(5)). Estas obligaciones se entienden sin perjuicio de otras obligaciones de los responsables del despliegue con arreglo al Derecho de la Unión o nacional y de su libertad para organizar sus propios recursos y actividades al aplicar las medidas de supervisión humana indicadas por el proveedor (artículo 26(3)).

• Riesgos e incidentes graves

  Un responsable del despliegue que tenga motivos para considerar que la utilización del sistema con arreglo a las instrucciones puede dar lugar a un riesgo en el sentido del artículo 79(1) informa sin demora indebida al proveedor o distribuidor y a la autoridad de vigilancia del mercado pertinente, y suspende el uso. Un incidente grave se comunica primero al proveedor (artículo 26(5)).

• Ninguna norma sobre la decisión final de contratación ni derecho de recurso

  El artículo 14 exige que las personas asignadas puedan decidir no utilizar el sistema o hacer caso omiso de su resultado, invalidarlo o revertirlo (artículo 14(4), letra d)). El Reglamento no contiene ninguna norma según la cual una persona deba tomar la decisión final sobre una contratación o un despido, ni procedimiento ni plazo de recurso contra tales decisiones. El artículo 86 da derecho a una explicación en los casos que describe, y el artículo 85 permite presentar una reclamación ante la autoridad de vigilancia del mercado, sin perjuicio de otros recursos administrativos o judiciales. Otras normas, por ejemplo la de protección de datos, pueden añadir reglas sobre decisiones automatizadas; el Reglamento deja intacto el Derecho de protección de datos (artículo 2(7)).

• Los Estados miembros pueden mantener o añadir normas más favorables a los trabajadores

  El Reglamento no impide que la Unión o los Estados miembros mantengan o introduzcan disposiciones legales, reglamentarias o administrativas más favorables a los trabajadores en lo que atañe a la protección de sus derechos respecto del uso de sistemas de IA por parte de los empleadores, ni que fomenten o permitan la aplicación de convenios colectivos más favorables a los trabajadores (artículo 2(11)). Los derechos de los representantes de los trabajadores según el Derecho nacional quedan fuera de esta página.

• El Reglamento no nombra ninguna norma; existen normas armonizadas y directrices

  El propio Reglamento no nombra ninguna norma para la supervisión humana. Pide tener en cuenta el estado de la técnica generalmente reconocido (artículo 8(1)). Los sistemas de IA de alto riesgo conformes con normas armonizadas cuyas referencias se hayan publicado en el Diario Oficial se presumen conformes con los requisitos de la sección 2 que esas normas cubran (artículo 40(1)). La Comisión elaborará directrices sobre la aplicación de los requisitos de los artículos 8 a 15 (artículo 96(1), letra a)). Cualquier otra norma que use un proveedor es una decisión de diseño voluntaria.

Son ejemplos, no requisitos.

• Ejemplo: mostrar por qué se clasifica a un candidato así (artículo 14(4), letras a) y c))

  La herramienta muestra los datos de entrada que hay detrás de una clasificación, para que el reclutador pueda comprobarlos.

• Ejemplo: anular el resultado (artículo 14(4), letra d))

  El reclutador puede pasar a la siguiente fase a un candidato que la herramienta rechazó, y la herramienta registra que se anuló el resultado.

• Artículo 14 reglamento IA: supervisión humana y botón de parada

  El artículo tal como lo formula el Reglamento, para todos los sectores.

• Reglamento IA RRHH: conformidad tecnológica

  Cómo alcanza el Reglamento a la IA para la contratación, la selección y la gestión de los trabajadores.

• Artículo 9: gestión de riesgos en la IA de RR. HH.

  La gestión de riesgos durante todo el ciclo de vida para la tecnología de recursos humanos.

• Artículo 26 para las tecnologías de RR. HH.: obligaciones de los responsables del despliegue

  Las obligaciones del empleador como responsable del despliegue, incluida la información a los trabajadores.