Artigo 13.º: Transparência da IA de RH — EU AI Act
Como a transparência do artigo 13.º do EU AI Act se aplica à IA de RH — notificação de candidatos, explicabilidade da pontuação e divulgação à comissão de trabalhadores.
O artigo 13.º do EU AI Act exige que os sistemas de IA de risco elevado sejam suficientemente transparentes para que os responsáveis pela implantação possam interpretar os resultados e utilizá-los de forma adequada. Nos recursos humanos e no recrutamento, a transparência é fundamental para proteger os direitos dos candidatos e prevenir a automatização discriminatória. Nos termos do anexo III, secção 4, os sistemas de IA utilizados para o recrutamento, triagem, filtragem ou avaliação de candidatos, bem como os sistemas que tomam decisões sobre promoção, despedimento ou atribuição de tarefas, são classificados como de risco elevado e sujeitos à totalidade das obrigações de transparência do artigo 13.º.
Esta página explica como os requisitos de transparência do artigo 13.º se aplicam especificamente à tecnologia de RH — da triagem de currículos à avaliação de desempenho — incluindo a notificação de candidatos, as instruções para os responsáveis de RH, a divulgação à comissão de trabalhadores e que violações ao nível do código a Scanara deteta nos sistemas de IA de emprego.
Que sistemas de IA de RH têm de ser transparentes?
Triagem e pré-seleção de currículos
Os sistemas de IA que filtram, classificam ou pontuam candidaturas devem explicar quais os fatores que determinaram a classificação. “Pontuação de IA opaca: 72/100 — candidato rejeitado” sem explicação dos critérios contribuintes não é conforme ao artigo 13.º(1).
Análise automatizada de entrevistas
As ferramentas de análise de vídeo ou voz que avaliam candidatos durante as entrevistas devem divulgar aos candidatos que a IA está a analisar as suas respostas, linguagem corporal ou padrões de fala. A metodologia de análise e os fatores avaliados devem ser transparentes.
Sistemas de avaliação de desempenho
Os sistemas de IA que monitorizam a produtividade dos trabalhadores, geram pontuações de desempenho ou recomendam decisões de promoção e despedimento devem ser transparentes tanto para os trabalhadores avaliados como para os gestores que utilizam os resultados.
Atribuição de tarefas e gestão da força de trabalho
Os sistemas que atribuem tarefas, turnos ou distribuição de trabalho com base numa análise de IA devem fornecer aos trabalhadores informações sobre a forma como as decisões de atribuição são tomadas, em particular quando afetam as condições de trabalho ou a remuneração.
IA de análise do sentimento e envolvimento dos trabalhadores
A IA que analisa as comunicações ou inquéritos dos trabalhadores para avaliar o sentimento deve informar os trabalhadores da monitorização e explicar como a análise é utilizada. Note-se que o reconhecimento de emoções no local de trabalho é proibido pelo artigo 5.º(1)(f), exceto para fins de segurança ou médicos.
Principais obrigações de transparência para a tecnologia de RH
O artigo 13.º exige instruções de utilização que permitam aos responsáveis pela implantação interpretar adequadamente os resultados da IA. Para a tecnologia de RH, isto significa que as instruções devem ser redigidas para os responsáveis de RH e os recrutadores — e não apenas para o pessoal técnico — e devem explicar como ponderar corretamente as recomendações da IA sem sucumbir ao enviesamento de automatização.
Os candidatos têm de saber que a IA foi utilizada
O artigo 13.º(3) e o artigo 50.º(1) exigem que os candidatos sejam informados quando a IA é utilizada nas decisões de triagem ou pré-seleção. Isto complementa o artigo 22.º do GDPR, que confere às pessoas direitos relativos às decisões automatizadas com efeitos jurídicos ou similarmente significativos. A notificação deve ocorrer antes ou no momento da decisão.
Os fatores de pontuação têm de ser explicáveis
Os responsáveis de RH devem poder compreender quais os fatores que determinaram uma recomendação da IA. O artigo 13.º(1) exige que os resultados sejam interpretáveis — uma pontuação de candidato sem explicação dos critérios contribuintes impede o recrutador de tomar uma decisão informada e não automatizada.
As comissões de trabalhadores têm de ser informadas
Em muitos Estados-Membros da UE, os representantes dos trabalhadores devem ser informados antes de as ferramentas de IA serem implantadas no local de trabalho. O BetrVG §87 alemão e a loi travail francesa exigem a consulta da comissão de trabalhadores sobre os sistemas de IA que afetam as condições de trabalho. As instruções de utilização do artigo 13.º devem estar à disposição destes órgãos.
As instruções devem prevenir o enviesamento de automatização
As instruções do artigo 13.º devem explicar aos responsáveis de RH como ponderar corretamente as recomendações da IA. A dependência excessiva das pontuações da IA compromete a supervisão humana exigida pelo artigo 14.º. As instruções devem especificar quando o juízo humano deve prevalecer sobre o sistema e como identificar recomendações potencialmente incorretas.
Sobreposições regulamentares
A transparência da IA de RH cruza-se com o direito do trabalho, a proteção de dados e os quadros antidiscriminação nos Estados-Membros da UE. A conformidade com o artigo 13.º deve ter em conta estas obrigações sobrepostas.
GDPR artigo 22.º — Direitos sobre decisões automatizadas
O GDPR confere às pessoas o direito de não ficarem sujeitas a decisões baseadas unicamente no tratamento automatizado com efeitos jurídicos ou similarmente significativos. A triagem no recrutamento insere-se plenamente neste âmbito. O artigo 13.º acrescenta requisitos de transparência ao nível do sistema que complementam os direitos individuais do GDPR — ambos devem ser satisfeitos.
Diretivas relativas à igualdade de tratamento
A Diretiva relativa à igualdade racial (2000/43/CE) e a Diretiva relativa à igualdade no emprego (2000/78/CE) proíbem a discriminação no emprego. A transparência sobre os fatores de pontuação da IA é essencial para demonstrar que o sistema não discrimina por motivos proibidos. Pontuações de IA opacas tornam impossível verificar a conformidade com o direito antidiscriminação.
BetrVG §87 alemão — Cogestão da comissão de trabalhadores
O direito alemão relativo à constituição das empresas confere às comissões de trabalhadores direitos de cogestão sobre os dispositivos técnicos que monitorizam o comportamento e o desempenho dos trabalhadores. As ferramentas de IA de recrutamento e avaliação requerem o acordo da comissão de trabalhadores antes da implantação. As instruções de utilização do artigo 13.º devem ser fornecidas às comissões de trabalhadores para permitir um consentimento informado.
Diretiva relativa aos trabalhadores das plataformas (proposta)
A Diretiva da UE relativa aos trabalhadores das plataformas introduz requisitos de transparência para a gestão algorítmica dos trabalhadores das plataformas, incluindo explicações das decisões automatizadas que afetam as condições de trabalho, a atribuição de tarefas e o despedimento. Estes requisitos reforçam e alargam as obrigações do artigo 13.º para os sistemas de IA da economia de plataformas.
Violações comuns que a Scanara deteta
Rejeição de candidato sem divulgação da IA
Código de notificação de rejeição que envia “A sua candidatura não foi bem-sucedida” sem divulgar que a IA esteve envolvida na decisão de triagem. O artigo 13.º(3) e o artigo 50.º(1) exigem que os candidatos sejam informados do envolvimento da IA — a Scanara sinaliza os pontos de extremidade de rejeição sem campos de divulgação.
Pontuação opaca sem explicação dos fatores
Respostas de API que devolvem pontuações de candidatos sem explicação que acompanhe quais os critérios de avaliação que contribuíram para a pontuação. Devolver uma classificação numérica sem contexto interpretável impede os responsáveis de RH de utilizarem o resultado de forma adequada, conforme exigido pelo artigo 13.º(1).
Ausência de divulgação da interação com IA nas ferramentas de entrevista
Plataformas de entrevista em vídeo que analisam as respostas dos candidatos sem apresentar uma notificação clara de que a IA está a ser utilizada para avaliar a interação. A Scanara deteta o código de inicialização da sessão de entrevista sem um componente de divulgação ou cabeçalho de API.
Instruções de utilização sem documentação das limitações
Documentação do sistema que descreve as capacidades de triagem da IA sem documentar as limitações conhecidas, tais como a degradação da exatidão para formatos de currículo não padronizados, os enviesamentos linguísticos ou o tratamento de interrupções na carreira. O artigo 13.º(3)(b)(i) exige a divulgação das limitações e dos cenários de utilização indevida previsíveis.
Lista de verificação de conformidade com o artigo 13.º para a tecnologia de RH
Tornar os resultados interpretáveis para os responsáveis de RH
Assegure-se de que os recrutadores e os responsáveis de RH possam compreender por que motivo a IA recomendou ou rejeitou um candidato. Forneça explicações ao nível dos fatores juntamente com as pontuações, e não apenas classificações numéricas.
Notificar os candidatos do envolvimento da IA
Informe os candidatos de que a IA é utilizada no processo de triagem ou avaliação. A notificação deve ocorrer no momento da candidatura ou antes de a análise da IA começar, numa linguagem clara e acessível.
Fornecer instruções para uma utilização adequada
Documente como os responsáveis de RH devem ponderar as recomendações da IA, quando o juízo humano deve prevalecer sobre o sistema e como identificar recomendações potencialmente incorretas. Inclua as limitações conhecidas e as métricas de exatidão.
Assegurar transparência às comissões de trabalhadores
Coloque as instruções de utilização do artigo 13.º à disposição das comissões de trabalhadores e dos representantes dos trabalhadores antes de implantar sistemas de IA de RH. Apoie os processos de cogestão com detalhes técnicos suficientes sobre o funcionamento e o impacto do sistema.
Divulgar as taxas de desempenho e de erro
Reporte a exatidão, as taxas de falsos positivos/negativos e os enviesamentos conhecidos nos resultados da triagem. Desagregue por grupos demográficos pertinentes para demonstrar que o sistema não prejudica de forma desproporcionada as categorias protegidas.
Perguntas frequentes
Recursos relacionados
Artigo 13.º: Transparência
Requisitos completos do artigo 13.º em todos os setores.
IA de RH — Centro setorial
Guia completo de conformidade com o EU AI Act para a IA de recursos humanos e recrutamento.
Artigo 12.º: Conservação de registos para a tecnologia de RH
Requisitos de registo e conservação de registos para a IA de emprego.
Artigo 14.º: Supervisão humana para a tecnologia de RH
Obrigações de supervisão humana para os sistemas de IA de emprego.
Como o Scanara ajuda
O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.