Artigo 10: governança de dados para IA de RH — Lei de IA da UE

O regulamento não fixa um volume mínimo de dados, nem quotas, nem uma lista de grupos protegidos. Fixa critérios de qualidade e práticas de governação.

• Práticas de governação de dados

  As práticas têm de ser adequadas à finalidade prevista. Dizem respeito às escolhas de conceção, à recolha de dados e à sua origem e, para os dados pessoais, à finalidade original da recolha. Dizem respeito à preparação dos dados, como a anotação, a rotulagem, a limpeza, a atualização, o enriquecimento e a agregação. Dizem também respeito aos pressupostos sobre o que os dados medem e representam e à avaliação da disponibilidade, da quantidade e da adequação dos conjuntos de dados (artigo 10(2), alíneas a) a e)).

• Exame do enviesamento e medidas

  As práticas dizem também respeito ao exame de enviesamentos suscetíveis de afetar a saúde e a segurança, de ter impacto negativo nos direitos fundamentais ou de conduzir a discriminação proibida. Incluem medidas para detetar, prevenir e atenuar esses enviesamentos e a identificação de lacunas nos dados que impeçam o cumprimento do regulamento (artigo 10(2), alíneas f) a h)).

• Qualidade dos conjuntos de dados

  Os conjuntos de dados devem ser pertinentes, suficientemente representativos e, tanto quanto possível, isentos de erros e completos tendo em conta a finalidade prevista. Devem ter as propriedades estatísticas adequadas, incluindo, se for caso disso, no que diz respeito às pessoas ou grupos de pessoas em relação aos quais o sistema se destina a ser utilizado (artigo 10(3)).

• O contexto de utilização

  Os conjuntos de dados têm de ter em conta, na medida exigida pela finalidade prevista, as características próprias do contexto geográfico, contextual, comportamental ou funcional de utilização (artigo 10(4)).

• Sistemas sem treino de modelos

  Nos sistemas de IA de risco elevado que não treinam modelos de IA, o artigo 10(2) a (4) e o artigo 4.º-A(1) aplicam-se apenas aos conjuntos de dados de teste (artigo 10(6)).

«Tecnologia de RH» não é uma categoria do regulamento. O que conta é a utilização enumerada no anexo III, ponto 4 («Emprego, gestão de trabalhadores e acesso ao emprego por conta própria»).

• Ponto 4, alínea a): recrutamento e seleção

  Sistemas de IA concebidos para serem utilizados no recrutamento ou na seleção de pessoas singulares, nomeadamente para colocar anúncios de emprego direcionados, analisar e filtrar candidaturas a ofertas de emprego e avaliar os candidatos.

• Ponto 4, alínea b): relações de trabalho

  Sistemas de IA concebidos para serem utilizados na tomada de decisões que afetem os termos das relações de trabalho, a promoção ou a cessação das relações contratuais de trabalho, na atribuição de tarefas com base em comportamentos individuais, traços ou características pessoais, ou no controlo e avaliação do desempenho e da conduta de pessoas que são partes nessas relações.

• Existe uma exceção, e nunca abrange a definição de perfis

  Um sistema do anexo III não é de risco elevado se não representar um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais das pessoas singulares, nomeadamente por não influenciar materialmente o resultado da tomada de decisões. A derrogação só se aplica quando se verifique qualquer uma das quatro condições do artigo 6(3), alíneas a) a d). Um sistema que efetue a definição de perfis de pessoas singulares é sempre de risco elevado. O fornecedor que considere que o seu sistema não é de risco elevado deve documentar a avaliação antes da colocação no mercado ou da colocação em serviço (artigo 6(4)). A Comissão devia fornecer orientações com exemplos práticos até 2 de fevereiro de 2026 (artigo 6(5)).

• O programador do software é o fornecedor, o empregador que o utiliza é um responsável pela implantação

  No regulamento, o fornecedor chama-se «prestador». O fornecedor é a pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que desenvolve um sistema de IA, ou que o manda desenvolver, e o coloca no mercado ou o coloca em serviço sob o seu próprio nome ou marca (artigo 3, ponto 3). Os fornecedores de sistemas de risco elevado têm de assegurar que os seus sistemas cumprem os requisitos da secção 2 (artigos 8 a 15) (artigo 16, alínea a)). O responsável pela implantação é uma pessoa singular ou coletiva, autoridade pública, agência ou outro organismo que utiliza um sistema de IA sob a sua própria autoridade, exceto se o sistema for utilizado no âmbito de uma atividade pessoal de caráter não profissional (artigo 3, ponto 4). Um empregador que utiliza um sistema de RH é um responsável pela implantação com as obrigações do artigo 26. Um responsável pela implantação passa a ser fornecedor se colocar o seu nome ou marca num sistema de risco elevado já colocado no mercado, lhe fizer uma modificação substancial ou alterar a finalidade prevista de um sistema de modo que passe a ser de risco elevado (artigo 25(1)).

• Datas, sistemas anteriores e exclusões do âmbito de aplicação

  Os requisitos para os sistemas do anexo III aplicam-se a partir de 2 de dezembro de 2027 (artigo 113, alínea c), subalínea i)). Um sistema de IA de risco elevado colocado no mercado ou colocado em serviço antes dessa data só fica abrangido se, a partir dela, a sua conceção sofrer alterações significativas. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111(2)). O regulamento não se aplica a domínios que não se enquadrem no âmbito do direito da União (artigo 2(3)), nem a sistemas ou modelos de IA, incluindo o seu resultado, especificamente desenvolvidos e colocados em serviço com o único objetivo da investigação e do desenvolvimento científicos (artigo 2(6)), nem a atividades de investigação, ensaio ou desenvolvimento anteriores à colocação de um sistema no mercado ou em serviço; os ensaios em condições reais não estão excluídos (artigo 2(8)). Não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares e utilizem sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional (artigo 2(10)). Os sistemas de IA divulgados ao abrigo de licenças livres e de código aberto ficam excluídos, salvo se forem colocados no mercado ou em serviço como sistemas de risco elevado ou como sistemas abrangidos pelo artigo 5 ou 50 (artigo 2(12)).

• O artigo 4.º-A permite categorias especiais de dados para detetar enviesamentos, sob condições

  Os fornecedores de sistemas de risco elevado podem, a título excecional, tratar categorias especiais de dados pessoais na medida do estritamente necessário para detetar e corrigir enviesamentos nos termos do artigo 10(2), alíneas f) e g), se estiverem reunidas todas as condições do artigo 4.º-A(1), por exemplo que outros dados, incluindo sintéticos ou anonimizados, não permitam atingir o objetivo. Os responsáveis pela implantação de sistemas de risco elevado podem fazê-lo nos termos do artigo 4.º-A(2), com as mesmas condições e salvaguardas. O artigo 4.º-A(2) não cria qualquer obrigação de proceder a essa deteção e correção de enviesamentos. O RGPD continua a aplicar-se a par dele (artigo 2(7)).

• Empregadores: os dados de entrada sob o seu controlo

  Na medida em que o responsável pela implantação exerça controlo sobre os dados de entrada, assegura que esses dados são pertinentes e suficientemente representativos tendo em conta a finalidade prevista do sistema de risco elevado (artigo 26(4)).

• Sem quotas, sem lista de características protegidas, sem métrica de equidade

  O regulamento não fixa quotas nem uma regra de paridade demográfica e o artigo 10 não enumera características protegidas; remete para a discriminação proibida pelo direito da União (artigo 10(2), alínea f)). Outras disposições nomeiam traços sensíveis para os seus próprios fins (artigo 5(1), alínea g), anexo III, ponto 1, alínea b)). O fornecedor decide como examinar e medir enviesamentos para a sua finalidade prevista.

• Existe uma presunção para o artigo 10(4)

  Os sistemas de IA de risco elevado treinados e testados com dados que refletem o enquadramento geográfico, comportamental, contextual ou funcional específico em que se destinam a ser utilizados presumem-se conformes com os requisitos pertinentes do artigo 10(4) (artigo 42(1)).

• O regulamento não nomeia nenhuma norma; existem normas harmonizadas e orientações

  O próprio regulamento não nomeia nenhuma norma para a qualidade dos dados. Pede que se tenha em conta o estado da arte geralmente reconhecido (artigo 8(1)). Os sistemas de IA de risco elevado conformes com normas harmonizadas cujas referências tenham sido publicadas no Jornal Oficial presumem-se conformes com os requisitos da secção 2 que essas normas abrangem (artigo 40(1)). A Comissão elabora orientações sobre a aplicação dos requisitos dos artigos 8 a 15 (artigo 96(1), alínea a)). Qualquer outra norma que um fornecedor use é uma escolha de conceção voluntária.

São exemplos, não requisitos.

• Exemplo: representatividade (artigo 10(3))

  O fornecedor de uma ferramenta de triagem de currículos verifica se os seus dados de treino, validação e teste incluem os grupos de candidatos a que a ferramenta se destina e regista qualquer lacuna (artigo 10(2), alínea h)).

• Exemplo: ciclos de retroalimentação (artigo 10(2), alínea f))

  Uma ferramenta de classificação treinada com decisões de contratação passadas pode repetir padrões do passado. O fornecedor examina isto, especialmente quando os resultados da ferramenta influenciam os dados com que aprende mais tarde.

• Artigo 10.º: governação de dados para a IA de risco elevado

  O artigo tal como o regulamento o formula, para todos os setores.

• Regulamento de IA para tecnologia de RH

  Como o regulamento chega à IA para recrutamento, seleção e gestão de trabalhadores.

• Artigo 9.º: Gestão de riscos da IA de RH — EU AI Act

  A gestão de riscos durante todo o ciclo de vida para a tecnologia de RH.

• Artigo 13.º: Transparência da IA de RH — EU AI Act

  As instruções de utilização para a tecnologia de RH e quem informa candidatos e trabalhadores.