O meu sistema de IA é de alto risco? Uma árvore de decisão
Árvore de decisão interativa para a classificação de riscos segundo o Regulamento de IA da UE. Abrange as práticas proibidas do artigo 5, as 8 categorias de alto risco do anexo III, as obrigações dos modelos GPAI e a transparência do artigo 50.
O Regulamento de IA da UE (Regulamento (UE) 2024/1689) classifica os sistemas de IA em quatro níveis de risco: proibido, alto risco, risco limitado e risco mínimo. Cada nível comporta diferentes obrigações de conformidade, desde proibições absolutas até códigos de conduta voluntários.
Utilize esta árvore de decisão interativa para determinar onde o seu sistema de IA se enquadra. A classificação segue a lógica estabelecida nos Artigos 5, 6, 50 e 51 do regulamento, mais os Anexos I e III. Responda a cada pergunta com base na funcionalidade real do seu sistema, não apenas na utilização pretendida.
Árvore de decisão interativa
Does your AI system perform any practice listed under Article 5?
Article 5 prohibits social scoring, subliminal manipulation, exploitation of vulnerabilities, real-time remote biometric identification in public spaces (with limited exceptions), predictive policing based solely on profiling, untargeted scraping for facial recognition databases, emotion recognition in workplaces/schools, and biometric categorisation inferring sensitive attributes.
Compreender o quadro de classificação de risco
O Regulamento de IA da UE estabelece uma abordagem proporcional e baseada no risco à regulação da IA. Quanto maior o risco que um sistema de IA representa para os direitos fundamentais e a segurança, mais rigorosos os requisitos. Este quadro aplica-se a fornecedores, implementadores, importadores, distribuidores e representantes autorizados que operam no mercado da UE ou que o afetam.
Proibido (risco inaceitável)
Práticas de IA que representam um risco inaceitável para os direitos fundamentais. São proibidas diretamente ao abrigo do Artigo 5, com multas até 35 milhões de EUR ou 7% do volume de negócios global. Inclui pontuação social, manipulação subliminar, exploração de grupos vulneráveis e certas práticas biométricas.
Alto risco
Sistemas de IA utilizados em áreas críticas listadas no Anexo III (biometria, infraestrutura crítica, emprego, educação, forças de segurança, etc.) ou como componentes de segurança de produtos ao abrigo da legislação do Anexo I. Sujeitos a requisitos abrangentes incluindo gestão de riscos, governança de dados, documentação técnica, manutenção de registos, transparência, supervisão humana, precisão e robustez.
Risco limitado
Sistemas de IA que interagem com pessoas singulares, geram conteúdo sintético ou realizam reconhecimento de emoções ou categorização biométrica. Sujeitos a obrigações de transparência ao abrigo do Artigo 50: os utilizadores devem ser informados de que estão a interagir com IA e o conteúdo sintético deve ser rotulado.
Risco mínimo
A maioria dos sistemas de IA enquadra-se nesta categoria. Sem requisitos obrigatórios, mas incentivam-se códigos de conduta voluntários ao abrigo do Artigo 95. Exemplos incluem filtros de spam, jogos com IA e sistemas de gestão de inventário.
Erros comuns de classificação
Classificar por intenção, não por capacidade
O regulamento classifica com base no que um sistema de IA pode fazer, não apenas no que se pretende que faça. Uma ferramenta de triagem de RH é de alto risco independentemente de o empregador alegar que a utiliza apenas como motor de sugestões.
Ignorar a exceção do Artigo 6(3)
Nem todos os sistemas do Anexo III são automaticamente de alto risco. Se o seu sistema apenas executa tarefas processuais restritas, melhora trabalho humano prévio ou prepara avaliações para revisão humana, pode qualificar-se para a exceção do Artigo 6(3). Mas deve documentar isto antes da colocação no mercado.
Esquecer a classificação a jusante
Um modelo GPAI utilizado como componente num sistema de alto risco ativa obrigações de alto risco para o fornecedor a jusante. A classificação deve considerar o contexto completo de implantação, não apenas o modelo isoladamente.
Perguntas frequentes
Guias relacionados
Como o Scanara ajuda
O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.