Skip to main content

Artigo 15 do Regulamento de IA: exatidão, solidez e cibersegurança

O artigo 15 exige dos sistemas de IA de risco elevado exatidão, solidez e cibersegurança adequadas. Este guia aborda os requisitos e formas comuns de os testar.

Os fornecedores de sistemas de IA de risco elevado devem concebê-los para terem exatidão, solidez e cibersegurança adequadas durante o ciclo de vida (artigo 15.º).

Os fornecedores devem declarar os níveis e parâmetros de exatidão nas instruções de utilização (artigo 15(3)). No regulamento, o fornecedor chama-se «prestador». Aplica-se aos sistemas colocados no mercado ou em serviço na UE. A aplicação começa em 2 de dezembro de 2027 (anexo III) e em 2 de agosto de 2028 (anexo I). As coimas chegam a 15 milhões de EUR ou 3 % do volume de negócios anual mundial, consoante o que for mais elevado (artigo 99(4)). Próximo passo: escolha os seus parâmetros de exatidão e teste-os.

O artigo 15 em cinco pontos

O artigo 15(1) exige um nível adequado de exatidão, solidez e cibersegurança e um desempenho coerente durante o ciclo de vida. Os cinco pontos abaixo agrupam os n.os 3 a 5. O regulamento fixa objetivos, não métodos de teste nem limiares. A Comissão incentiva o desenvolvimento de parâmetros de referência e metodologias de medição com as autoridades de metrologia e de avaliação comparativa (artigo 15(2)).

Níveis e parâmetros de exatidão declarados

Declare os níveis de exatidão e os parâmetros de exatidão aplicáveis nas instruções de utilização (artigo 15(3)).

Resistência a erros e falhas

Torne o sistema tão resistente quanto possível a erros, falhas ou incoerências no sistema ou no seu ambiente, incluindo na interação com pessoas ou outros sistemas. Tome medidas técnicas e organizativas; a redundância técnica, como planos de reserva ou à prova de falhas, pode assegurar a solidez (artigo 15(4)).

Controlo dos circuitos de realimentação

Se o sistema continuar a aprender depois de colocado no mercado ou em serviço, elimine ou reduza, tanto quanto possível, o risco de resultados enviesados influenciarem os dados de entrada futuros (circuitos de realimentação). Trate esses circuitos com medidas de atenuação (artigo 15(4)).

Resistência a terceiros não autorizados

O sistema tem de resistir a tentativas de terceiros não autorizados de alterar a sua utilização, os seus resultados ou o seu desempenho explorando vulnerabilidades. As soluções de cibersegurança têm de ser adequadas às circunstâncias e aos riscos (artigo 15(5)).

Medidas contra ataques específicos da IA

Se for caso disso, inclua medidas para prevenir, detetar, resolver e controlar, bem como dar resposta a, os ataques e falhas que o artigo 15(5) indica. São a contaminação de dados (dados de treino manipulados), a contaminação de modelos (componentes pré-treinados manipulados), os exemplos antagónicos ou a evasão de modelos (dados de entrada concebidos para causar erros), os ataques de confidencialidade e as falhas do modelo.

Quatro passos de engenharia que apoiam o artigo 15

O artigo 15 não prescreve nenhum método de teste. Estes passos são formas comuns de demonstrar que os requisitos são cumpridos.

Testes antagónicos no CI

Execute testes de solidez antagónicos no seu pipeline CI/CD: gere exemplos antagónicos, teste os limites do modelo e verifique as defesas contra padrões de ataque conhecidos.

Avaliação comparativa da exatidão

Meça a exatidão com os parâmetros que declarou, para cada versão do modelo, conjunto de dados e ambiente de implantação, a fim de detetar degradação.

Redundância e conceção à prova de falhas

Crie alternativas para os percursos críticos: modelos de reserva, monitores de segurança e passagem a uma pessoa quando a confiança cai abaixo de um limiar que defina.

Segurança da cadeia de abastecimento do modelo

Analise dependências e modelos de base à procura de vulnerabilidades e verifique a origem dos modelos externos e a integridade dos pipelines de treino.

As instruções de utilização indicam o nível testado e o esperado

As instruções de utilização têm de indicar o nível de exatidão, solidez e cibersegurança com que o sistema foi testado e validado e que se pode esperar. Têm também de indicar as circunstâncias conhecidas que o podem afetar (artigo 13(3), alínea b), subalínea ii)). Guarde os resultados dos testes que sustentam cada nível declarado.

O artigo 15 aplica-se apenas a sistemas de IA de risco elevado

Um sistema é de risco elevado se se enquadrar numa área do anexo III, salvo se se aplicar uma isenção do artigo 6(3). Um sistema que cria perfis de pessoas singulares é sempre de risco elevado. Também o é se for um produto do anexo I que exija uma avaliação da conformidade por terceiros, ou um seu componente de segurança (artigo 6). Os fornecedores ficam abrangidos quando colocam um sistema no mercado da UE ou o colocam em serviço na UE, onde quer que estejam estabelecidos (artigo 2(1), alínea a)). Os fornecedores e responsáveis pela implantação de países terceiros ficam também abrangidos quando os resultados do sistema são utilizados na UE (artigo 2(1), alínea c)). Os sistemas de risco elevado ligados a produtos abrangidos pela legislação do anexo I, secção B, ficam fora do artigo 15 (artigo 2(2)). Para os produtos do anexo I, secção A, alguns requisitos podem ser limitados (artigo 2(13)). Isto diz respeito aos artigos 9 a 15 e 17 a 25, se a legislação setorial oferecer proteção equivalente ou superior. Os atos delegados previstos até 2 de agosto de 2027 especificarão quais. O regulamento exclui os usos militares, de defesa e de segurança nacional e os sistemas desenvolvidos apenas para investigação científica (artigo 2(3) e (6)). Exclui também a investigação e os testes antes da colocação no mercado (artigo 2(8)). Os sistemas já colocados no mercado ou em serviço antes da data de aplicação só ficam abrangidos após alterações significativas da conceção. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111(2)).

Perguntas frequentes: limiares, testes, certificação e coimas

Que limiar de exatidão é «adequado»?

O regulamento não indica nenhum número nem diz que nível é adequado para cada utilização. Exige um nível adequado, declarado com os respetivos parâmetros nas instruções de utilização (artigo 15(1) e (3)). Indique o parâmetro que usa e o resultado que mediu.

Isto exige red teaming formal?

Não. O artigo 15 não indica nenhum método de teste. O artigo 15(5) exige medidas contra ataques como a contaminação de dados e os exemplos antagónicos, e os testes antagónicos são uma forma de demonstrar que essas medidas funcionam.

Como se testa a solidez na prática?

Os métodos comuns são a injeção de falhas, a geração de exemplos antagónicos, os testes de limites e os cenários de degradação. Usam dados de entrada corrompidos, alterações de distribuição e casos extremos. O artigo 15 não indica nenhum. Escolha métodos adequados aos riscos que identificou nos termos do artigo 9.

Os certificados ou as normas de cibersegurança existentes cobrem o artigo 15?

Apenas em dois casos definidos. Presume-se que um sistema cumpre os requisitos de cibersegurança do artigo 15 (artigo 42(2)). Para tal, tem de estar certificado ao abrigo de um sistema de certificação da cibersegurança do Regulamento (UE) 2019/881, ou ter sido emitida uma declaração de conformidade. Isto vale se as referências do sistema de certificação forem publicadas no Jornal Oficial, e só na medida em que o certificado ou a declaração os abranja. Os sistemas abrangidos pelo Cyber Resilience Act (Regulamento (UE) 2024/2847) que cumpram as condições do seu artigo 12(1) consideram-se conformes (artigo 42(3)). Ambos dizem respeito apenas à cibersegurança, não à exatidão nem à solidez.

Que documentação se espera para a exatidão e a solidez?

Declare os níveis e parâmetros de exatidão nas instruções de utilização (artigo 15(3)). A documentação técnica tem de descrever ainda os procedimentos de validação e teste e os parâmetros de exatidão e solidez. Inclui também os relatórios de teste e as medidas de cibersegurança (anexo IV, ponto 2, alíneas g) e h)).

Quais são as coimas e o limite é mais baixo para as PME?

As coimas chegam até 15 milhões de EUR ou 3 % do volume de negócios anual mundial, consoante o que for mais elevado (artigo 99(4)). Aplicam-se aos fornecedores (artigo 16) e aos responsáveis pela implantação (artigo 26). Para as PME, incluindo as empresas em fase de arranque, e as pequenas empresas de média capitalização, o limite é o menor dos dois montantes (artigo 99(6) e (6-A)). Os Estados-Membros fixam as regras sobre sanções (artigo 99(1)).

Leia a seguir: como o artigo 15 se liga aos artigos 9, 10, 11 e 13

O Scanara prepara evidências a partir dos seus repositórios

O Scanara lê os seus repositórios GitHub ligados e executa análises baseadas em regras para padrões comuns de IA e de aprendizagem automática. Pode não detetar código fora do padrão. Em separado, gera rascunhos de documentação a partir de modelos e das suas respostas nas avaliações, como evidências para o seu trabalho de conformidade. A classificação é decidida por si.