Artículo 15: exactitud y solidez en la IA de RR. HH.
Cómo se aplican la exactitud y solidez del artículo 15 del Reglamento de IA a la IA de RR. HH.: paridad demográfica, impacto adverso y resistencia a currículos manipulados.
El artículo 15 del Reglamento de IA de la UE exige que los sistemas de IA de alto riesgo alcancen niveles adecuados de exactitud, solidez y ciberseguridad a lo largo de su ciclo de vida. En la tecnología de RR. HH., la exactitud no es solo una métrica técnica — es un requisito de equidad. Un sistema de contratación por IA que alcanza un 85 % de exactitud global pero solo un 60 % para un grupo demográfico específico no es conforme. Con arreglo al anexo III, sección 4, los sistemas de IA utilizados en el empleo, la gestión de trabajadores y el acceso al trabajo por cuenta propia — incluidos la contratación, la preselección, el filtrado y la evaluación de candidatos — se clasifican como de alto riesgo.
Esta página explica cómo las obligaciones de exactitud, solidez y ciberseguridad del artículo 15 se aplican específicamente a la tecnología de RR. HH. — desde la preselección de currículos hasta la evaluación del desempeño — incluyendo la paridad de exactitud demográfica, el análisis de impacto adverso, la solidez frente a la manipulación de candidatos, la calibración de puntuaciones y qué infracciones a nivel de código detecta Scanara en los sistemas de IA de RR. HH.
Métricas de exactitud para sistemas de IA de tecnología de RR. HH.
Paridad de exactitud demográfica
La exactitud debe validarse por separado para cada grupo demográfico. Una exactitud global del 85 % con un 60 % de exactitud para un grupo demográfico específico no es conforme. El artículo 15 exige que las disparidades de rendimiento entre grupos protegidos se identifiquen, declaren y mitiguen — y no se oculten tras métricas agregadas.
Ratio de impacto adverso
El ratio de las tasas de selección entre grupos demográficos debe supervisarse de forma continua. La regla de 4/5 (ampliamente adoptada de las directrices de la EEOC de EE. UU. y cada vez más citada en los contextos de la UE) proporciona una referencia: si la tasa de selección de cualquier grupo protegido cae por debajo del 80 % de la tasa del grupo más seleccionado, el sistema requiere investigación y remediación.
Calibración de puntuaciones
Las puntuaciones de candidatos generadas por IA deben estar bien calibradas: una puntuación de 70/100 debería corresponder a candidatos genuinamente casi equivalentes en idoneidad. Unas puntuaciones mal calibradas — donde un 70 y un 80 no presentan ninguna diferencia significativa en el desempeño laboral real — socavan la declaración de exactitud exigida por el artículo 15 e inducen a error a los responsables de contratación que se basan en las salidas de la IA.
Validez predictiva
Los sistemas de contratación por IA deben demostrar que sus predicciones se correlacionan con los resultados reales del desempeño laboral. Un sistema que predice con exactitud qué candidatos superarán las entrevistas pero no cuáles tendrán éxito en el puesto tiene una validez predictiva limitada. El artículo 15 exige que la exactitud declarada refleje resultados del mundo real, no métricas indirectas.
Principales obligaciones de exactitud y solidez para la tecnología de RR. HH.
El artículo 15 exige que los sistemas de IA de alto riesgo sean resilientes frente a errores, fallos e incoherencias. En la tecnología de RR. HH., esto incluye la solidez frente a la manipulación de candidatos (manipulación del currículo), la deriva de concepto a medida que evolucionan los mercados laborales y una puntuación coherente ante entradas equivalentes.
Solidez frente a la manipulación del currículo
¿Pueden los candidatos explotar el sistema mediante la saturación de palabras clave, trucos de formato o formulaciones estratégicas? El artículo 15 exige resiliencia frente a entradas diseñadas específicamente para manipular la salida del sistema. Un sistema de preselección que clasifica un currículo saturado de palabras clave notablemente por encima de un currículo equivalente en contenido no es sólido.
Supervisión de la deriva de concepto
Un modelo entrenado con patrones de contratación de un período determinado del mercado laboral puede rendir mal cuando cambian las condiciones del mercado. El artículo 15 exige exactitud a lo largo del ciclo de vida, lo que implica un seguimiento continuo del rendimiento — y no solo una validación previa al despliegue. La detección de la deriva debe desencadenar una revalidación o un reentrenamiento del modelo.
Reproducibilidad de la puntuación
Los perfiles de candidatos idénticos presentados en momentos distintos o a través de canales distintos deben recibir puntuaciones coherentes. El artículo 15 exige un rendimiento constante ante entradas idénticas — un sistema que puntúa el mismo currículo de forma diferente el lunes frente al viernes o mediante distintos formatos de carga no es conforme.
Resiliencia frente a la manipulación por terceros
El artículo 15 exige resiliencia frente a los intentos de terceros de alterar el rendimiento del sistema. En RR. HH., esto incluye la protección frente a la manipulación por agencias de contratación, servicios de redacción de currículos o candidaturas generadas por IA diseñadas para manipular el sistema de puntuación.
Solapamientos normativos
Los requisitos de exactitud y solidez de la tecnología de RR. HH. se solapan con el derecho de la discriminación en el empleo, la regulación de la protección de datos y los marcos de responsabilidad algorítmica. El mero cumplimiento del artículo 15 es insuficiente — estas obligaciones solapadas deben abordarse de forma conjunta.
Directivas de igualdad de trato
Las Directivas de igualdad de trato de la UE prohíben la discriminación en el empleo por motivos de sexo, origen racial o étnico, religión, discapacidad, edad u orientación sexual. Las disparidades de exactitud entre estos grupos protegidos no son solo cuestiones de cumplimiento del artículo 15, sino posibles violaciones del derecho fundamental del empleo de la UE.
Artículo 22 del RGPD — Decisiones automatizadas
El artículo 22 del RGPD restringe las decisiones basadas únicamente en el tratamiento automatizado que producen efectos significativos. Las decisiones de empleo entran dentro de este ámbito. Los requisitos de exactitud del artículo 15 complementan las salvaguardas del RGPD — las decisiones de contratación automatizadas inexactas son doblemente problemáticas con arreglo a ambos marcos.
Marcos de responsabilidad algorítmica
Las directrices emergentes de la UE en materia de responsabilidad algorítmica exigen que las organizaciones documenten la exactitud, la equidad y la fiabilidad de los sistemas de IA utilizados en el empleo. El requisito del artículo 15 de declarar los niveles de exactitud se alinea con estos marcos y proporciona la base técnica para la presentación de informes de responsabilidad.
Directrices equivalentes a las de la EEOC
Si bien la regla de 4/5 se origina en las directrices de la EEOC de EE. UU., los reguladores de la UE citan cada vez más umbrales de impacto adverso similares en los contextos de contratación algorítmica. Los requisitos de paridad de exactitud del artículo 15 probablemente se evaluarán frente a referencias comparables en la práctica de aplicación de la UE.
Infracciones habituales que detecta Scanara
Exactitud solo agregada sin estratificación demográfica
Canalizaciones de evaluación que solo calculan la exactitud global sin desglosar el rendimiento por grupo demográfico. Scanara señala el código de evaluación que carece de métricas estratificadas — el artículo 15 exige que la exactitud se valide y declare para todos los grupos protegidos, no que se informe como una única cifra agregada.
Sin pruebas de solidez frente a ataques adversarios para las entradas de currículos
Canalizaciones de CI/CD que carecen de pruebas de solidez frente a ataques adversarios para las entradas de candidatos. Scanara señala los flujos de evaluación que no se prueban frente a currículos saturados de palabras clave, manipulación de formato o candidaturas generadas por IA diseñadas específicamente para manipular el sistema de puntuación.
Modelo desplegado sin detección de deriva de concepto
Modelos de IA de RR. HH. desplegados sin supervisión continua de la deriva de concepto a medida que cambian los mercados laborales y los grupos de candidatos. Scanara detecta canalizaciones de puntuación que carecen de mecanismos de detección de deriva, alertas de degradación del rendimiento o desencadenantes de revalidación programados.
Métricas de rendimiento no incluidas en la documentación
Despliegues en los que las métricas de exactitud, los ratios de impacto adverso y los resultados de calibración no se incluyen en la ficha del modelo o en las instrucciones de uso. El artículo 15 exige que los niveles de exactitud y las métricas de rendimiento esperadas se declaren en la documentación adjunta.
Lista de verificación de cumplimiento del artículo 15 para la tecnología de RR. HH.
Alcanzar la paridad de exactitud demográfica
Valide la exactitud en todos los grupos demográficos protegidos. Asegúrese de que ningún grupo experimente una exactitud significativamente inferior a la de la población global. Declare las métricas estratificadas en las instrucciones de uso.
Garantizar la solidez frente a la manipulación de candidatos
Pruebe la resiliencia frente a la manipulación del currículo, la saturación de palabras clave, la manipulación de formato y las candidaturas generadas por IA. Documente los umbrales de solidez y los vectores de manipulación conocidos.
Supervisar y abordar la deriva de concepto
Implemente una supervisión continua del rendimiento con detección de deriva. Desencadene una revalidación cuando las condiciones del mercado laboral, los grupos de candidatos o las distribuciones de puntuaciones cambien de forma significativa.
Mantener la ciberseguridad de los sistemas de puntuación
Proteja los sistemas de puntuación por IA frente a la modificación no autorizada de los datos de entrenamiento, los parámetros del modelo o los algoritmos de puntuación. Implemente comprobaciones de integridad y controles de acceso para todos los componentes.
Garantizar la calibración de puntuaciones y la reproducibilidad
Verifique que las puntuaciones de la IA estén bien calibradas frente al desempeño laboral real y que los perfiles de candidatos idénticos reciban puntuaciones coherentes a lo largo del tiempo y entre canales de presentación.
Preguntas frecuentes
Recursos relacionados
Artículo 15: Exactitud y solidez
Todos los requisitos del artículo 15 en todos los sectores.
IA de tecnología de RR. HH. — Centro sectorial
Guía completa de cumplimiento del Reglamento de IA de la UE para los sistemas de IA de tecnología de RR. HH.
Artículo 14: Supervisión humana para la tecnología de RR. HH.
Requisitos de supervisión humana para los sistemas de IA de tecnología de RR. HH.
Artículo 15: Exactitud para la fintech
Requisitos de exactitud y solidez para la IA de servicios financieros.
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.