Artigo 14 do Regulamento de IA: supervisão humana e botão de paragem
O artigo 14 exige que os sistemas de IA de risco elevado permitam uma supervisão humana eficaz. Este guia aborda as capacidades necessárias, o botão de paragem e os padrões de supervisão comuns.
Os fornecedores de sistemas de IA de risco elevado devem concebê-los para que pessoas singulares os possam supervisionar eficazmente durante a utilização (artigo 14.º).
Quem exerce a supervisão tem de poder, consoante for adequado e proporcionado, compreender o sistema, controlá-lo, ignorar os seus resultados e pará-lo. No regulamento, o fornecedor chama-se «prestador». Aplica-se aos sistemas colocados no mercado ou em serviço na UE. A aplicação começa em 2 de dezembro de 2027 (anexo III) e em 2 de agosto de 2028 (anexo I). As coimas chegam a 15 milhões de EUR ou 3 % do volume de negócios anual mundial, consoante o que for mais elevado (artigo 99(4)). Próximo passo: faça uma lista dos controlos que o seu sistema dá a essas pessoas.
Quem supervisiona tem de poder compreender, controlar, ignorar e parar o sistema
O artigo 14(4) enumera cinco capacidades que o sistema deve permitir, consoante for adequado e proporcionado. O fornecedor integra algumas medidas no sistema e identifica outras que o responsável pela implantação executa (artigo 14(3)).
Compreender e controlar
Quem supervisiona pode compreender devidamente as capacidades e limitações do sistema e controlar o seu funcionamento, nomeadamente para detetar e corrigir anomalias, disfuncionalidades e desempenhos inesperados (artigo 14(4), alínea a)).
Manter-se consciente e interpretar corretamente
Quem supervisiona mantém-se consciente do enviesamento da automatização, a tendência para confiar demasiado nos resultados do sistema, e consegue interpretar corretamente os resultados (artigo 14(4), alíneas b) e c)).
Ignorar e parar
Quem supervisiona pode decidir não usar o sistema ou ignorar, anular ou reverter os seus resultados. Pode também intervir no funcionamento do sistema ou interrompê-lo com um botão de «paragem» ou um procedimento similar que permita parar o sistema de modo seguro (artigo 14(4), alíneas d) e e)).
Verificação por duas pessoas na identificação biométrica à distância
Nos sistemas do anexo III, ponto 1, alínea a), o responsável pela implantação só pode agir com base numa identificação depois de, pelo menos, duas pessoas a terem verificado e confirmado separadamente (artigo 14(5)). Essas pessoas precisam da competência, da formação e da autoridade necessárias. O requisito não se aplica à aplicação da lei, à migração, ao controlo das fronteiras nem ao asilo, quando o direito da União ou nacional o considere desproporcionado.
Quem supervisiona tem de poder levar o sistema a uma paragem segura
O artigo 14(4), alínea e), exige um botão de «paragem» ou um procedimento similar que permita a quem supervisiona interromper o sistema e pará-lo de modo seguro. O regulamento não prescreve como; os três pontos abaixo são opções de conceção.
Paragem de emergência
Preveja um controlo que pare o sistema de modo seguro e teste se funciona mesmo durante erros do sistema. Uma opção: deixar de aceitar pedidos novos e deixar terminar os que estão em curso.
Modo de recurso
Decida o que acontece após uma paragem: encaminhar os casos para revisores humanos, usar valores predefinidos baseados em regras ou fazer uma pausa total. Documente e teste o modo de recurso.
Registo de paragens e intervenções
Registe cada paragem e intervenção com hora, operador, motivo e estado do sistema. É uma opção de conceção que lhe dá provas de como a supervisão funcionou.
As medidas de supervisão têm de corresponder ao risco, à autonomia e ao contexto
O artigo 14(3) exige medidas de supervisão proporcionais aos riscos, ao nível de autonomia e ao contexto de utilização do sistema. Os três padrões abaixo são termos de conceção comuns, não termos do regulamento.
Humano no ciclo
Uma pessoa aprova cada decisão antes de esta produzir efeitos. Adequa-se a decisões com consequências graves.
Humano sobre o ciclo
O sistema funciona sozinho; uma pessoa acompanha-o e pode intervir a qualquer momento.
Humano no comando
Uma pessoa define os limites e as condições de utilização e pode anular qualquer decisão ou desligar o sistema.
O artigo 14 aplica-se apenas a sistemas de IA de risco elevado
Um sistema é de risco elevado se se enquadrar numa área do anexo III, salvo se se aplicar uma isenção do artigo 6(3). Um sistema que cria perfis de pessoas singulares é sempre de risco elevado. Também o é se for um produto do anexo I que exija uma avaliação da conformidade por terceiros, ou um seu componente de segurança (artigo 6). Os fornecedores ficam abrangidos quando colocam um sistema no mercado da UE ou o colocam em serviço na UE, onde quer que estejam estabelecidos (artigo 2(1), alínea a)). Os fornecedores e responsáveis pela implantação de países terceiros ficam também abrangidos quando os resultados do sistema são utilizados na UE (artigo 2(1), alínea c)). Os sistemas de risco elevado ligados a produtos abrangidos pela legislação do anexo I, secção B, ficam fora do artigo 14 (artigo 2(2)). Para os produtos do anexo I, secção A, alguns requisitos podem ser limitados (artigo 2(13)). Isto diz respeito aos artigos 9 a 15 e 17 a 25, se a legislação setorial oferecer proteção equivalente ou superior. Os atos delegados previstos até 2 de agosto de 2027 especificarão quais. O regulamento exclui os usos militares, de defesa e de segurança nacional e os sistemas desenvolvidos apenas para investigação científica (artigo 2(3) e (6)). Exclui também a investigação e os testes antes da colocação no mercado (artigo 2(8)). Os sistemas já colocados no mercado ou em serviço antes da data de aplicação só ficam abrangidos após alterações significativas da conceção. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111(2)).
Perguntas frequentes: supervisores, painéis, responsabilidade e coimas
Quem pode ser supervisor humano?
Uma pessoa singular com a competência, a formação e a autoridade necessárias, além do apoio de que precisa. O responsável pela implantação atribui a supervisão a essas pessoas (artigo 26(2)), e o sistema tem de lhes permitir compreendê-lo, ignorar os seus resultados e pará-lo (artigo 14(4)).
Um painel de controlo basta?
Não. Um painel apoia o controlo do funcionamento (artigo 14(4), alínea a)). Mas quem supervisiona também tem de poder anular ou reverter os resultados e parar o sistema (artigo 14(4), alíneas d) e e)). Acrescente comandos ao lado do painel.
Quem é responsável, o fornecedor ou o responsável pela implantação?
Ambos. O fornecedor identifica as medidas de supervisão antes de colocar o sistema no mercado ou em serviço. Integra-as quando tecnicamente viável, identifica-as para que o responsável pela implantação as execute, ou faz ambas as coisas (artigo 14(3)). O responsável pela implantação atribui a supervisão a pessoas competentes e usa o sistema de acordo com as instruções de utilização (artigo 26(1) e (2)).
Quais são as coimas e o limite é mais baixo para as PME?
As coimas chegam até 15 milhões de EUR ou 3 % do volume de negócios anual mundial, consoante o que for mais elevado (artigo 99(4)). Aplicam-se aos fornecedores (artigo 16) e aos responsáveis pela implantação (artigo 26). Para as PME, incluindo as empresas em fase de arranque, e as pequenas empresas de média capitalização, o limite é o menor dos dois montantes (artigo 99(6) e (6-A)). Os Estados-Membros fixam as regras sobre sanções (artigo 99(1)).
Leia a seguir: gestão de riscos, manutenção de registos e obrigações do responsável pela implantação
Artigo 9: gestão de riscos
A supervisão visa prevenir ou reduzir ao mínimo os riscos para a saúde, a segurança e os direitos fundamentais, em especial quando persistem apesar dos outros requisitos (artigo 14(2)).
Artigo 12: manutenção de registos
Os registos apoiam o controlo do sistema; os sistemas de identificação biométrica à distância têm de registar quem verificou os resultados.
Artigo 26: obrigações dos responsáveis pela implantação
Os responsáveis pela implantação atribuem a supervisão a pessoas competentes e usam o sistema de acordo com as suas instruções de utilização.
O Scanara prepara evidências a partir dos seus repositórios
O Scanara lê os seus repositórios GitHub ligados e executa análises baseadas em regras para padrões comuns de IA e de aprendizagem automática. Pode não detetar código fora do padrão. Em separado, gera rascunhos de documentação a partir de modelos e das suas respostas nas avaliações, como evidências para o seu trabalho de conformidade. A classificação é decidida por si.