Artigo 15.º para a aplicação da lei: exatidão, solidez e cibersegurança

O regulamento não prevê um regime setorial geral de aplicação da lei; o ponto 6 do anexo III é a área de risco elevado intitulada «Aplicação da lei». Define-a como as atividades realizadas por autoridades responsáveis pela aplicação da lei, ou em nome destas, para efeitos de prevenção, investigação, deteção ou repressão de infrações penais ou execução de sanções penais, incluindo a proteção contra ameaças à segurança pública e a prevenção das mesmas (art. 3.º, ponto 46). Uma autoridade responsável pela aplicação da lei é uma autoridade pública competente para essas tarefas ou outro organismo designado pelo direito de um Estado-Membro para exercer a autoridade pública para esses efeitos (art. 3.º, ponto 45).

O anexo III, ponto 6 classifica como de risco elevado cinco utilizações por autoridades responsáveis pela aplicação da lei, ou em seu nome, ou por instituições, órgãos ou organismos da União em apoio dessas autoridades, na medida em que a sua utilização seja permitida pelo direito da União ou nacional aplicável: avaliar o risco de uma pessoa ser vítima de infrações penais (a); polígrafos e instrumentos semelhantes (b); avaliar a fiabilidade das provas (c); avaliar o risco de uma pessoa cometer ou reincidir numa infração, não apenas com base na definição de perfis, ou avaliar traços de personalidade ou comportamento criminal passado (d); e a definição de perfis durante a deteção, investigação ou repressão de infrações penais (e). O regulamento não contém uma entrada para a análise criminal ou o policiamento preditivo enquanto tais.

O trabalho policial também pode ser abrangido pelo anexo III, ponto 1 (identificação biométrica à distância, categorização biométrica segundo atributos sensíveis ou protegidos, reconhecimento de emoções) e pelo anexo III, ponto 7 (migração, asilo e gestão do controlo das fronteiras). Ambos os pontos estão sujeitos à mesma condição: a sua utilização tem de ser permitida pelo direito da União ou nacional aplicável. O anexo III, ponto 8, alínea a) abrange os sistemas utilizados por uma autoridade judiciária ou em seu nome.

O regulamento não se aplica aos sistemas de IA utilizados exclusivamente para fins militares, de defesa ou de segurança nacional (art. 2.º, n.º 3). Algumas utilizações na aplicação da lei são proibidas, e não de risco elevado, desde 2 de fevereiro de 2025 (art. 113.º, alínea a)): uma avaliação do risco de uma pessoa cometer uma infração penal baseada exclusivamente na definição de perfis ou nos seus traços de personalidade, a menos que apenas apoie uma avaliação humana já baseada em factos objetivos e verificáveis diretamente ligados a uma atividade criminosa (art. 5.º, n.º 1, alínea d)); bases de dados de reconhecimento facial criadas por recolha aleatória de imagens faciais da internet ou de imagens de videovigilância (art. 5.º, n.º 1, alínea e)); e a identificação biométrica à distância «em tempo real» em espaços acessíveis ao público, salvo se estritamente necessária para um objetivo enumerado no art. 5.º, n.º 1, alínea h) e sujeita ao art. 5.º, n.os 2 a 7. O regulamento também não se aplica a domínios fora do âmbito de aplicação do direito da União (art. 2.º, n.º 3); às autoridades públicas de países terceiros e organizações internacionais que utilizem sistemas de IA no âmbito da cooperação internacional ou de acordos de cooperação policial e judiciária com a União ou com um ou mais Estados-Membros, desde que sejam asseguradas garantias adequadas em matéria de proteção dos direitos e liberdades fundamentais (art. 2.º, n.º 4); nem aos sistemas de IA divulgados ao abrigo de licenças gratuitas e de fonte aberta, a menos que sejam colocados no mercado ou colocados em serviço como sistemas de risco elevado ou abrangidos pelo artigo 5.º ou 50.º (art. 2.º, n.º 12). As pessoas singulares que utilizem um sistema no âmbito de uma atividade puramente pessoal de caráter não profissional ficam fora das obrigações dos responsáveis pela implantação (art. 2.º, n.º 10).

O artigo 15.º não contém nenhuma regra específica para a aplicação da lei nem fixa um limiar numérico de exatidão. Os sistemas de risco elevado têm de atingir um nível adequado de exatidão, solidez e cibersegurança e ter um desempenho consistente a esse respeito ao longo do seu ciclo de vida (art. 15.º, n.º 1).

Os níveis de exatidão e as métricas de exatidão pertinentes têm de ser declarados nas instruções de utilização que acompanham o sistema (art. 15.º, n.º 3). A Comissão deve incentivar, conforme adequado, a elaboração de parâmetros de referência e metodologias de medição; esse número não impõe nenhuma obrigação aos fornecedores (art. 15.º, n.º 2).

Os sistemas devem ser o mais resilientes possível a erros, falhas ou incoerências que possam ocorrer no sistema ou no ambiente em que funciona, em especial devido à sua interação com pessoas singulares ou outros sistemas; planos de salvaguarda ou de segurança em caso de falha são uma forma de o conseguir. Os sistemas que continuam a aprender após serem colocados no mercado ou colocados em serviço devem ser desenvolvidos de modo a eliminar ou reduzir, na medida do possível, o risco de os resultados enviesados influenciarem os dados de entrada de operações futuras (ciclos de realimentação) (art. 15.º, n.º 4). Exemplo: um sistema que continua a aprender com registos moldados pelos seus próprios resultados anteriores é um caso em que este número exige atenção.

Os sistemas devem ser resilientes a tentativas de terceiros não autorizados de alterar a sua utilização, os seus resultados ou o seu desempenho explorando as vulnerabilidades do sistema. As soluções técnicas devem ser adequadas às circunstâncias e aos riscos e incluir, se for caso disso, medidas contra a contaminação de dados, a contaminação de modelos, os exemplos antagónicos ou a evasão do modelo, os ataques à confidencialidade e as falhas do modelo (art. 15.º, n.º 5).

O regulamento não cita ele próprio nenhuma norma. Os sistemas conformes com normas harmonizadas cujas referências são publicadas no Jornal Oficial presumem-se conformes com os requisitos da secção 2 que essas normas abrangem (art. 40.º, n.º 1). Os sistemas certificados ou com declaração de conformidade ao abrigo de um sistema de certificação da cibersegurança nos termos do Regulamento (UE) 2019/881, cujas referências sejam publicadas, presumem-se conformes com os requisitos de cibersegurança do artigo 15.º na medida em que o certificado ou a declaração os abranja (art. 42.º, n.º 2). Os sistemas de risco elevado abrangidos pelo Regulamento (UE) 2024/2847 que cumpram as condições do seu artigo 12.º, n.º 1, consideram-se conformes com esses requisitos de cibersegurança (art. 42.º, n.º 3).

Os fornecedores asseguram que os sistemas de risco elevado cumprem os requisitos da secção 2, entre os quais o artigo 15.º (art. 16.º, n.º a). Os responsáveis pela implantação, como os corpos de polícia, utilizam o sistema de acordo com as instruções de utilização (art. 26.º, n.º 1), onde são declarados os níveis de exatidão. Uma autoridade que ponha o seu nome ou marca num sistema de risco elevado já colocado no mercado, ou que nele efetue uma modificação substancial, é considerada fornecedor (art. 25.º, n.º 1).

O sistema de monitorização pós-comercialização do fornecedor recolhe dados sobre o desempenho dos sistemas de risco elevado ao longo da sua vida útil. Essa obrigação não abrange os dados operacionais sensíveis dos responsáveis pela implantação que sejam autoridades responsáveis pela aplicação da lei (art. 72.º, n.º 2).

Os fornecedores demonstram o cumprimento dos requisitos da secção 2 através de uma avaliação da conformidade. Para os pontos 2 a 8 do anexo III, incluindo o ponto 6, trata-se do controlo interno previsto no anexo VI (art. 43.º, n.º 2). Para o ponto 1, o fornecedor só pode optar pelo controlo interno se tiver aplicado normas harmonizadas ou especificações comuns; caso contrário, aplica-se o anexo VII. Nesse caso, quando o sistema se destine a ser colocado em serviço por autoridades responsáveis pela aplicação da lei, de imigração ou de asilo, ou por instituições, órgãos ou organismos da União, a autoridade de fiscalização do mercado referida no art. 74.º, n.º 8 ou no art. 74.º, n.º 9 atua como organismo notificado (art. 43.º, n.º 1). Em derrogação do artigo 43.º, uma autoridade de fiscalização do mercado pode autorizar sistemas de risco elevado específicos por razões excecionais, incluindo a segurança pública (art. 46.º, n.º 1); as autoridades responsáveis pela aplicação da lei dispõem de uma via de urgência no art. 46.º, n.º 2.

O capítulo III, secções 1 a 3, aplica-se aos sistemas de IA classificados como de risco elevado nos termos do artigo 6.º, n.º 2, e do anexo III a partir de 2 de dezembro de 2027 (art. 113.º, alínea c), subalínea i)). Os sistemas de risco elevado colocados no mercado ou colocados em serviço antes dessa data só ficam abrangidos se, a partir dela, forem objeto de alterações significativas na sua conceção. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (art. 111.º, n.º 2). Os sistemas de IA que são componentes dos sistemas informáticos de grande escala criados pelos atos jurídicos enumerados no anexo X, e que tenham sido colocados no mercado ou em serviço antes de 2 de agosto de 2027, devem ser conformados com o regulamento até 31 de dezembro de 2030 (art. 111.º, n.º 1).

O artigo 15.º fixa requisitos para o próprio sistema. Os fornecedores têm de assegurar o seu cumprimento (art. 16.º, n.º a), e o art. 99.º, n.º 4, alínea a) abrange as obrigações dos fornecedores nos termos do artigo 16.º. As coimas nos termos do art. 99.º, n.º 4 podem ir até 15 milhões EUR ou, se o infrator for uma empresa, até 3 % do seu volume de negócios anual a nível mundial no exercício anterior, consoante o que for mais elevado. No caso das PME, incluindo as empresas em fase de arranque (art. 99.º, n.º 6), e das pequenas empresas de média capitalização (art. 3.º, ponto 14b, art. 99.º, n.º 6a), cada coima pode ir até ao mais baixo dos dois valores.

Cada Estado-Membro estabelece regras sobre em que medida podem ser aplicadas coimas às autoridades e organismos públicos nele estabelecidos (art. 99.º, n.º 8). Às instituições, órgãos e organismos da União, a Autoridade Europeia para a Proteção de Dados pode aplicar coimas até 750 000 EUR por infrações distintas das do art. 5.º (art. 100.º, n.º 3).