O meu sistema de IA é de risco elevado? Uma árvore de decisão
Árvore de decisão interativa para a classificação de riscos segundo o Regulamento de IA da UE. Abrange as práticas proibidas do artigo 5, as 8 categorias de risco elevado do anexo III, as obrigações dos modelos GPAI e a transparência do artigo 50.
O Regulamento de IA da UE (Regulamento (UE) 2024/1689) classifica os sistemas de IA de acordo com a sua finalidade prevista: práticas proibidas (artigo 5), sistemas de risco elevado (artigo 6 com os anexos I e III) e sistemas com obrigações de transparência (artigo 50). Os modelos de IA de finalidade geral têm regras próprias (capítulo V). As obrigações vão desde a proibição total até aos códigos de conduta voluntários.
Use esta árvore de decisão interativa para saber que regras se aplicam ao seu sistema de IA. Segue os artigos 5, 6, 50 e 51 e os anexos I e III. Responda a cada pergunta para a finalidade prevista do seu sistema: a utilização que indica nas instruções de utilização, nos materiais promocionais ou de venda e na documentação técnica (artigo 3, ponto 12). O resultado é um ponto de partida, não aconselhamento jurídico.
Árvore de decisão interativa
O seu sistema de IA realiza uma prática proibida pelo artigo 5?
O artigo 5 proíbe, entre outras práticas: técnicas subliminares ou manipuladoras prejudiciais; a exploração de vulnerabilidades devidas à idade, a uma deficiência ou a uma situação social ou económica; a pontuação social; a avaliação do risco de cometer uma infração penal com base apenas na definição de perfis; a recolha não seletiva de imagens faciais para criar bases de dados de reconhecimento facial; o reconhecimento de emoções no local de trabalho e em instituições de ensino (exceto por razões médicas ou de segurança); a categorização biométrica para deduzir raça, opiniões políticas, filiação sindical, convicções religiosas ou filosóficas, vida sexual ou orientação sexual; e a identificação biométrica à distância em tempo real em espaços acessíveis ao público para efeitos de manutenção da ordem pública, com exceções restritas. A partir de 2 de dezembro de 2026, proíbe também os sistemas de IA que geram deepfakes sexualmente explícitos de pessoas identificáveis sem o seu consentimento ou material de abuso sexual de crianças (artigo 5(1), alíneas ba) e bb)).
Compreender o quadro de classificação de risco
O Regulamento de IA segue uma abordagem baseada no risco: quanto maior o risco que um sistema de IA representa para a saúde, a segurança e os direitos fundamentais, mais rigorosos são os requisitos. Aplica-se a fornecedores, responsáveis pela implantação, importadores, distribuidores, fabricantes de produtos, representantes autorizados e pessoas afetadas na UE, bem como a fornecedores e responsáveis pela implantação de países terceiros quando o resultado do sistema é utilizado na UE (artigo 2(1)). Não se aplica aos sistemas de IA utilizados exclusivamente para fins militares, de defesa ou de segurança nacional (artigo 2(3)), aos sistemas e modelos de IA desenvolvidos e colocados em serviço com o único objetivo da investigação e do desenvolvimento científicos (artigo 2(6)), à investigação, aos ensaios e ao desenvolvimento antes da colocação no mercado ou em serviço de um sistema, exceto os ensaios em condições reais (artigo 2(8)), nem às pessoas singulares que utilizam a IA numa atividade pessoal de caráter não profissional (artigo 2(10)). Também ficam de fora os sistemas de IA divulgados com licenças livres e de código aberto, salvo se forem colocados no mercado ou em serviço como sistemas de risco elevado ou se enquadrarem nos artigos 5 ou 50 (artigo 2(12)). As expressões «risco limitado» e «risco mínimo» são abreviaturas comuns; o próprio regulamento não as utiliza.
Práticas proibidas (artigo 5)
Práticas de IA que o regulamento proíbe por completo (artigo 5), como a pontuação social, as técnicas subliminares ou manipuladoras prejudiciais, a exploração de vulnerabilidades e certas práticas biométricas. As coimas chegam a 35 milhões de EUR ou, para uma empresa, a 7 % do volume de negócios anual total a nível mundial, consoante o montante mais elevado (artigo 99(3)).
Risco elevado
Sistemas de IA que são um componente de segurança de um produto abrangido por uma lei do anexo I e que têm de ser sujeitos a uma avaliação da conformidade por terceiros, ou que são utilizados para as utilizações do anexo III, como biometria, infraestruturas críticas, educação, emprego, manutenção da ordem pública e migração. Têm de cumprir requisitos como gestão de riscos, governação de dados, documentação técnica, conservação de registos, transparência, supervisão humana, exatidão e solidez. Os requisitos aplicam-se aos sistemas do anexo III a partir de 2 de dezembro de 2027 e aos sistemas da secção A do anexo I a partir de 2 de agosto de 2028 (artigo 113, na redação do Regulamento (UE) 2026/1744). Os sistemas colocados no mercado ou em serviço antes dessas datas só ficam abrangidos após alterações significativas da sua conceção; em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111(2)). Para os sistemas da secção B, aplicam-se apenas os artigos 6(1), 60.º-A e 102 a 112, e os artigos 57 a 59 apenas na medida em que a lei setorial tenha integrado os requisitos de risco elevado (artigo 2(2)).
Obrigações de transparência (artigo 50)
Sistemas de IA que interagem diretamente com pessoas, geram áudio, imagens, vídeo ou texto sintéticos, ou fazem reconhecimento de emoções ou categorização biométrica. Os fornecedores e os responsáveis pela implantação têm de, a partir de 2 de agosto de 2026, informar as pessoas ou assinalar os conteúdos como o artigo 50 exige. A informação tem de ser clara e prestada o mais tardar aquando da primeira interação ou exposição (artigo 50(5)).
Todos os outros sistemas de IA
Sistemas de IA a que não se aplica nenhuma proibição do artigo 5, nenhuma regra de risco elevado nem nenhuma obrigação do artigo 50. Continuam a aplicar-se regras gerais, como a literacia em matéria de IA (artigo 4). Os códigos de conduta voluntários são incentivados (artigo 95).
Erros comuns de classificação
Classificar pela etiqueta em vez de pela finalidade prevista
A classificação segue a finalidade prevista: a utilização que o fornecedor indica nas instruções de utilização, nos materiais promocionais ou de venda e na documentação técnica (artigo 3, ponto 12). Um sistema de recrutamento, por exemplo para filtrar candidaturas ou avaliar candidatos, é uma utilização do anexo III (ponto 4(a)). Chamar-lhe ferramenta de sugestões não muda nada. Só as condições do artigo 6(3) o podem fazer, e nunca se o sistema definir perfis de pessoas singulares.
Ignorar a exceção do Artigo 6(3)
Nem todo o sistema do anexo III é de risco elevado. Um sistema que não representa um risco significativo de danos e cumpre uma das quatro condições do artigo 6(3) não é considerado de risco elevado. A exceção nunca se aplica quando o sistema define perfis de pessoas singulares. O fornecedor tem de documentar a avaliação antes de o sistema ser colocado no mercado ou em serviço e tem de registar o sistema na base de dados da UE na mesma (artigo 6(4), artigo 49(2)).
Esquecer a classificação a jusante
Um modelo GPAI não é, em si, classificado como de risco elevado. Se desenvolver um sistema de IA sobre um modelo e esse sistema for de risco elevado nos termos do artigo 6, o fornecedor desse sistema assume as obrigações de risco elevado, e as obrigações do fornecedor do modelo nos termos do artigo 53 continuam separadas. Classifique o sistema pela sua finalidade prevista, não apenas pelo modelo.
Perguntas frequentes
Como sei se o meu sistema de IA é de risco elevado?
Um sistema de IA é de risco elevado se cumprir uma de duas vias. Via 1 (artigo 6(1)): é um componente de segurança de um produto, ou é ele próprio um produto, abrangido por uma lei do anexo I, e esse produto tem de ser sujeito a uma avaliação da conformidade por terceiros. Via 2 (artigo 6(2)): é utilizado para uma utilização do anexo III e a exceção do artigo 6(3) não se aplica; a definição de perfis de pessoas singulares nunca está isenta. Para os produtos da secção B do anexo I, aplicam-se apenas os artigos 6(1), 60.º-A e 102 a 112, e os artigos 57 a 59 apenas na medida em que a lei setorial tenha integrado os requisitos de risco elevado (artigo 2(2)). Use a árvore de decisão acima para percorrer os critérios.
O que acontece se classificar incorretamente o meu sistema de IA?
Se um sistema do anexo III for classificado erradamente como não sendo de risco elevado para contornar as regras, o fornecedor fica sujeito a coimas nos termos do artigo 99 (artigo 80(7)). As coimas por incumprimento das obrigações dos fornecedores do artigo 16 chegam a 15 milhões de EUR ou, para uma empresa, a 3 % do volume de negócios anual total a nível mundial, consoante o montante mais elevado (artigo 99(4)). Para as PME e as pequenas empresas de média capitalização, o limite é o mais baixo dos dois montantes (artigo 99(6) e (6-A)).
A classificação de risco de um sistema de IA pode mudar ao longo do tempo?
Sim. A Comissão pode alterar o anexo III e as condições do artigo 6(3) por meio de atos delegados (artigo 7, artigo 6(6) e (7)). Uma alteração da finalidade prevista também pode alterar a classificação: quem alterar a finalidade prevista de um sistema que não era de risco elevado e já está no mercado ou em serviço de modo que passe a sê-lo torna-se o seu fornecedor (artigo 25(1)(c)). Reavalie a classificação sempre que a finalidade ou o contexto de utilização mudar. O Regulamento (UE) 2026/1744 (o «Digital Omnibus sobre IA») fixou as datas das regras de risco elevado: 2 de dezembro de 2027 para os sistemas do anexo III e 2 de agosto de 2028 para os do anexo I. As proibições do artigo 5 aplicam-se desde 2 de fevereiro de 2025 (artigo 5(1), alíneas ba) e bb): a partir de 2 de dezembro de 2026) e as obrigações GPAI desde 2 de agosto de 2025.
Utilizar uma API de IA de terceiros torna o meu sistema de risco elevado?
Depende da finalidade prevista do seu sistema, não da origem do modelo. Se integrar uma API de IA de terceiros num sistema com uma utilização do anexo III, como a pontuação de crédito ou o recrutamento, o seu sistema é de risco elevado, a menos que se aplique a exceção do artigo 6(3). Quem coloca esse sistema no mercado ou em serviço em seu próprio nome ou marca é o seu fornecedor (artigo 3, ponto 3) e assume as obrigações de fornecedor, independentemente de quem criou o modelo. O fornecedor do modelo tem as suas próprias obrigações GPAI.
O Scanara prepara evidências a partir dos seus repositórios
O Scanara lê os seus repositórios GitHub ligados e executa análises baseadas em regras para padrões comuns de IA e de aprendizagem automática. Pode não detetar código fora do padrão. Em separado, gera rascunhos de documentação a partir de modelos e das suas respostas nas avaliações, como evidências para o seu trabalho de conformidade. A classificação é decidida por si.