Artigo 17.º: gestão da qualidade na IA de HR tech — EU AI Act

Como o sistema de gestão da qualidade do artigo 17.º do EU AI Act se aplica à IA de HR tech — SGQ para algoritmos de recrutamento, auditorias de enviesamento e IA de emprego.

Publicado 2 de abril de 2026

O artigo 17.º do EU AI Act exige que os fornecedores de sistemas de IA de alto risco estabeleçam e mantenham um sistema de gestão da qualidade (SGQ). Para as empresas de HR tech, esta é frequentemente uma obrigação inteiramente nova — ao contrário da saúde ou do setor automóvel, a maioria dos fornecedores de tecnologia de RH não opera segundo um quadro de SGQ formal existente. Nos termos do anexo III, secção 4, os sistemas de IA utilizados no recrutamento, na triagem de candidatos, nas decisões de promoção e na gestão de pessoal são classificados como de alto risco e sujeitos a todo o âmbito do artigo 17.º.

Esta página explica que elementos de SGQ os fornecedores de HR tech devem implementar, como estruturar os processos de gestão da qualidade para as ferramentas de IA de recrutamento e gestão de pessoal, e que lacunas de processo de SGQ ao nível do código a Scanara deteta nos sistemas de IA de HR tech.

Componentes de SGQ necessários para a IA de HR tech

Processo de aprovação de versões de modelo

Um processo documentado que especifica quem tem autoridade para aprovar novas versões de modelo para implementação em produção, que evidências de validação são exigidas antes da aprovação (resultados de testes de enviesamento, métricas de exatidão, relatórios de equidade) e que procedimentos de reversão existem. Ao contrário da saúde, a maioria das empresas de HR tech tem de criar este processo de raiz.

Procedimentos de auditoria de enviesamento programados

Os testes de enviesamento devem ser um processo de SGQ documentado e programado — não uma atividade pontual. Defina a frequência das auditorias (recomenda-se trimestral), os grupos demográficos a testar, os limiares estatísticos de impacto díspar aceitável e as ações corretivas acionadas quando os limiares são ultrapassados. Isto transforma os testes de enviesamento de uma boa prática num procedimento de qualidade formal.

Gestão de alterações para atualizações de modelo

Procedimentos que regem a forma como as alterações ao modelo (retreino, alterações de características, ajustes de limiares) são avaliadas, aprovadas e implementadas. Cada alteração deve incluir uma avaliação de impacto documentada que abranja a exatidão, a equidade e os potenciais efeitos a jusante nos resultados de contratação antes de a implementação ser autorizada.

Validação da conformidade da IA de fornecedores

Ao utilizar ferramentas de IA de terceiros para o recrutamento, os responsáveis pela implementação têm obrigações equivalentes ao SGQ nos termos do artigo 26.º. Documente os procedimentos para validar as declarações de conformidade do fornecedor, realizar testes de enviesamento independentes das ferramentas do fornecedor e manter registos das evidências de conformidade do fornecedor como parte do SGQ.

Procedimentos de reclamação e recurso dos candidatos

Procedimentos documentados para tratar as reclamações dos candidatos sobre os resultados das decisões de IA, incluindo circuitos de recurso, processos de revisão humana e vias de escalonamento. Estes devem alimentar o processo de ações corretivas do SGQ quando os padrões de reclamações indicarem problemas de qualidade sistémicos.

Principais obrigações de SGQ para a HR tech

O artigo 17.º exige políticas, procedimentos e instruções por escrito que abranjam todo o ciclo de vida da IA. Para os fornecedores de HR tech sem um SGQ existente, isto significa construir processos fundamentais de gestão da qualidade que respondam tanto aos requisitos gerais do SGQ como às obrigações específicas do emprego.

Controlo da conceção dos algoritmos de recrutamento

O artigo 17.º exige procedimentos documentados de controlo da conceção e de verificação. Para a HR tech, isto significa documentar como os algoritmos de recrutamento são concebidos, que características são selecionadas (e excluídas), como as variáveis de substituição das características protegidas são identificadas e mitigadas, e como as decisões de conceção são verificadas face aos requisitos de equidade.

Testes e validação antes da implementação

Os procedimentos escritos de teste e validação devem incluir testes de exatidão por categoria de função, testes de enviesamento por grupo demográfico e validação face aos resultados históricos de contratação. Os resultados da validação devem ser documentados e analisados antes de qualquer versão de modelo ser aprovada para utilização em produção.

Monitorização pós-comercialização para a IA de emprego

Monitorização contínua dos sistemas de IA de recrutamento implementados para detetar degradação do desempenho, padrões de enviesamento emergentes e alterações nos resultados de contratação. A monitorização deve incluir alertas automatizados quando os rácios de impacto adverso excederem os limiares, bem como procedimentos documentados para investigar e resolver os problemas detetados.

Competência e formação do pessoal

Documente as competências exigidas ao pessoal que desenvolve, implementa e monitoriza os sistemas de IA de recrutamento. A formação deve abranger os princípios de equidade da IA, o direito antidiscriminação, os procedimentos específicos do SGQ e como interpretar os resultados das auditorias de enviesamento. Mantenha os registos de formação como documentação do SGQ.

Sobreposições regulamentares

Embora a HR tech não disponha de um quadro de SGQ dedicado como a ISO 13485 da saúde, várias obrigações regulamentares sobrepõem-se ao artigo 17.º e podem fornecer estrutura para construir um SGQ conforme.

ISO 42001 — Sistemas de gestão de IA

A ISO 42001 oferece o quadro mais diretamente aplicável às empresas de HR tech que constroem um SGQ conforme com o AI Act. Abrange a governação da IA, a gestão de riscos, a gestão de dados e a monitorização do desempenho — alinhando-se estreitamente com os requisitos do artigo 17.º e fornecendo uma estrutura de sistema de gestão certificável.

ISO 9001 — SGQ genérico

A ISO 9001 fornece o quadro de SGQ fundamental (controlo de documentos, revisão pela gestão, ações corretivas, auditoria interna) exigido pelo artigo 17.º. As empresas de HR tech sem um SGQ existente devem considerar a ISO 9001 como coluna vertebral estrutural, alargada com procedimentos específicos da IA e do emprego.

Diretivas relativas à igualdade de tratamento

As Diretivas da UE relativas à igualdade de tratamento (2000/43/CE, 2000/78/CE) proíbem a discriminação no emprego. Os procedimentos de SGQ do artigo 17.º para os testes de enviesamento e a monitorização da equidade apoiam diretamente a conformidade com estas diretivas. Documentar os procedimentos de auditoria de enviesamento como parte do SGQ cria um rasto auditável dos esforços antidiscriminação.

Responsabilização do RGPD (art. 5.º, n.º 2)

O artigo 5.º, n.º 2, do RGPD exige que os responsáveis pelo tratamento demonstrem a conformidade com os princípios da proteção de dados. Os procedimentos de SGQ de gestão de dados exigidos pelo artigo 17.º — que abrangem a seleção, a recolha, a anotação e o armazenamento de dados — sobrepõem-se aos requisitos de responsabilização do RGPD relativos à documentação do tratamento lícito dos dados pessoais dos candidatos.

Violações comuns que a Scanara deteta

Sem versionamento de modelo ou fluxo de aprovação

Pipelines de implementação que enviam atualizações de modelos de recrutamento para produção sem etiquetagem de versão, controlos de aprovação ou assinatura documentada. A Scanara sinaliza as configurações de CI/CD em que os artefactos de modelo são implementados diretamente sem um fluxo de aprovação — violando os requisitos do artigo 17.º relativos ao controlo da conceção e à verificação.

Alterações de modelo sem avaliação de impacto

Retreino de modelo, alterações de características ou ajustes de limiares implementados sem uma avaliação de impacto documentada. A Scanara deteta pipelines de atualização de modelo desprovidos de etapas de avaliação de impacto sobre a equidade ou em que as alterações são implementadas sem avaliar os efeitos nos resultados de contratação entre grupos demográficos.

Sem procedimento de validação de modelo documentado

Sistemas de IA de recrutamento implementados sem um procedimento de validação documentado que especifique critérios de aceitação de exatidão e equidade. A Scanara identifica as implementações desprovidas de referências a relatórios de validação ou a resultados de auditoria de enviesamento, ou em que as etapas de validação estão totalmente ausentes do fluxo de implementação.

Monitorização pós-comercialização não ligada às ações corretivas

Sistemas de monitorização que acompanham os resultados de contratação ou as métricas de enviesamento, mas sem escalonamento automatizado para um processo de ações corretivas quando os limiares são ultrapassados. A Scanara sinaliza as configurações de monitorização em que a deteção de impacto adverso não aciona fluxos documentados de investigação e de correção.

Lista de verificação de conformidade com o artigo 17.º para a HR tech

Art. 17(1)(a)

Estratégia de conformidade regulamentar

Documente uma estratégia de conformidade com o AI Act que abranja todos os sistemas de IA de recrutamento de alto risco. Defina que sistemas estão no âmbito, as normas aplicáveis (ISO 42001, ISO 9001) e o calendário de implementação do SGQ.

Art. 17(1)(b)

Controlo da conceção e verificação

Estabeleça procedimentos para conceber e verificar os algoritmos de recrutamento, incluindo a revisão da seleção de características, a deteção de variáveis de substituição e as atividades de verificação da equidade desde a conceção.

Art. 17(1)(c)

Procedimentos de teste e validação

Defina procedimentos de validação que incluam testes de exatidão, auditoria de enviesamento sobre as características protegidas e critérios de aceitação a cumprir antes da implementação em produção.

Art. 17(1)(e)

Procedimentos de gestão de dados

Estabeleça procedimentos para a seleção, a recolha, a anotação, o armazenamento e a filtragem dos dados dos candidatos. Aborde os requisitos do RGPD para o tratamento de dados de emprego e as políticas de conservação de dados.

Art. 17(1)(i)

Programa de auditoria interna

Implemente um programa de auditoria interna que abranja a governação dos modelos de IA, a conformidade dos testes de enviesamento, as práticas de gestão de dados e a eficácia das ações corretivas. Programe auditorias pelo menos anualmente.

Perguntas frequentes

Como o Scanara ajuda

O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.