Artigo 15.º para sistemas autónomos: exatidão, robustez e cibersegurança

O artigo 15.º fixa requisitos de conceção para o fornecedor. Não indica nenhum valor de exatidão para nenhum setor.

• art. 15(1)
  Nível adequado, durante todo o ciclo de vida

  Os sistemas de IA de risco elevado devem ser concebidos e desenvolvidos de modo a atingirem um nível adequado de exatidão, solidez e cibersegurança e a funcionarem de forma coerente nesses aspetos durante todo o seu ciclo de vida.

• art. 15(2)
  Os parâmetros de referência são promovidos pela Comissão

  A Comissão incentiva, se for caso disso, o desenvolvimento de parâmetros de referência e metodologias de medição, em cooperação com partes interessadas como as autoridades de metrologia e de avaliação comparativa. Não é uma obrigação do fornecedor.

• art. 15(3)
  Declarar níveis e parâmetros

  Os níveis de exatidão e os parâmetros de exatidão relevantes devem ser declarados nas instruções de utilização que acompanham o sistema.

• art. 15(4)
  Resiliência a erros e ciclos de realimentação

  Os sistemas devem ser tão resilientes quanto possível a erros, falhas ou incoerências que possam ocorrer no sistema ou no ambiente em que funciona, em especial devido à interação com pessoas singulares ou outros sistemas. Devem ser tomadas medidas técnicas e organizativas; a redundância técnica, os planos de salvaguarda ou de segurança em caso de falha são citados como opções. Um sistema que continue a aprender depois de colocado no mercado deve ser desenvolvido de modo a eliminar ou reduzir, tanto quanto possível, o risco de resultados enviesados influenciarem entradas futuras (ciclos de realimentação).

• art. 15(5)
  Cibersegurança contra terceiros não autorizados

  Os sistemas devem ser resilientes a tentativas de terceiros não autorizados de alterar a sua utilização, resultados ou desempenho explorando vulnerabilidades. As soluções técnicas incluem, se for caso disso, medidas contra a contaminação de dados, a contaminação do modelo, os exemplos adversariais ou a evasão do modelo, os ataques à confidencialidade e as falhas do modelo.

O artigo 15.º vincula apenas os sistemas de IA de risco elevado. As linhas seguintes mostram que sistemas autónomos abrange e quais não.

• «Sistemas autónomos» não é uma categoria do regulamento

  O regulamento não tem uma categoria «sistemas autónomos»; a sua definição de sistema de IA refere-se a um funcionamento com diferentes níveis de autonomia (artigo 3.º, ponto 1). Este sítio usa a palavra para a IA de veículos, drones, robôs e máquinas e para a IA que ajuda a gerir o trânsito rodoviário. Esta IA pode ser de risco elevado por três vias, e a via decide que regras de risco elevado se aplicam: o anexo I, secção B (artigo 2.º, n.º 2 limita as regras a poucos artigos), o anexo I, secção A (os requisitos do capítulo III desde 2 de agosto de 2028, se o sistema for de risco elevado nos termos do artigo 6.º, n.º 1) e o anexo III, ponto 2 (os requisitos do capítulo III desde 2 de dezembro de 2027). Outras regras não dependem da via: os artigos 4.º e 5.º, o artigo 50.º, o artigo 53.º para os fornecedores de modelos e os restantes pontos do anexo III. O artigo 2.º, n.º 2 limita apenas os sistemas de IA de risco elevado nos termos do artigo 6.º, n.º 1 em produtos da secção B. Identifique primeiro a sua via de risco elevado.

• Veículos, aeronaves, caminho de ferro, equipamento marítimo e máquinas: anexo I, secção B

  A secção B do anexo I enumera, entre outros, os veículos a motor (Regulamentos (UE) 2018/858 e 2019/2144), os veículos de duas ou três rodas (Regulamento (UE) n.º 168/2013), os veículos agrícolas e florestais (Regulamento (UE) n.º 167/2013), o sistema ferroviário (Diretiva (UE) 2016/797), os equipamentos marítimos (Diretiva 2014/90/UE), as aeronaves não tripuladas e os seus motores, hélices, peças e equipamento de controlo remoto, na medida em que o Regulamento (UE) 2018/1139 as abrange, e as máquinas (Regulamento (UE) 2023/1230, transferido da secção A para a secção B pelo Regulamento (UE) 2026/1744). Para um sistema de IA de risco elevado nos termos do artigo 6.º, n.º 1 que diga respeito a um produto deste tipo, apenas se aplicam o artigo 6.º, n.º 1, o artigo 60.º-A e os artigos 102.º a 112.º (artigo 2.º, n.º 2); os artigos 57.º, 58.º e 59.º só se aplicam na medida em que os requisitos para os sistemas de IA de risco elevado tenham sido integrados nessa legislação de harmonização da União. Os artigos 9.º a 15.º, 17.º e 26.º não se incluem entre eles. Em vez disso, os artigos 102.º a 109.º acrescentam a oito destes atos uma regra segundo a qual a Comissão tem em conta os requisitos do capítulo III, secção 2, quando adota os atos que neles são referidos para sistemas de IA. Para as máquinas, o artigo 3.º, ponto 1, do Regulamento (UE) 2026/1744 obriga a Comissão a adotar atos delegados que acrescentem requisitos de saúde e segurança para tais sistemas de IA, refletindo o capítulo III, secção 2, e os artigos 17.º, 19.º, 72.º e 73.º; esses atos devem ser aplicáveis o mais tardar em 2 de agosto de 2028.

• Produtos da secção A e anexo III, ponto 2: aplica-se o capítulo III

  Duas vias ativam os requisitos do capítulo III. Primeira: um sistema de IA é de risco elevado nos termos do artigo 6.º, n.º 1 se se destinar a ser utilizado como componente de segurança de um produto abrangido pela legislação do anexo I, ou for ele próprio um produto desse tipo, e esse produto tiver de ser submetido a uma avaliação da conformidade por terceiros ao abrigo dessa legislação. A secção A (pontos 2 a 12) abrange, por exemplo, ascensores, instalações de transporte por cabo, embarcações de recreio e dispositivos médicos; o capítulo III aplica-se a estes sistemas desde 2 de agosto de 2028 (artigo 113.º, alínea c), subalínea ii)). Um componente de segurança é um componente que desempenha uma função de segurança ou cuja falha ou mau funcionamento põe em perigo a saúde e a segurança das pessoas ou dos bens (artigo 3.º, ponto 14); a IA utilizada exclusivamente para aspetos não relacionados com a segurança, como a otimização do desempenho, a automatização ou a conveniência, não o é, mas a IA cuja falha poria em perigo a saúde e a segurança é-o (artigo 6.º, n.os 1-A e 1-B). Um produto que só tenha de ser submetido a avaliação por terceiros por riscos diferentes dos riscos para a saúde e a segurança, como a utilização do espectro radioelétrico ou interferências eletromagnéticas sem efeito na saúde e na segurança, não preenche essa condição (artigo 6.º, n.º 1-C); isto interessa, por exemplo, aos equipamentos de rádio (ponto 6). Segunda: o anexo III, ponto 2, abrange os sistemas de IA destinados a ser utilizados como componentes de segurança na gestão e no funcionamento de infraestruturas digitais críticas, do trânsito rodoviário ou do abastecimento de água, gás, aquecimento ou eletricidade; o capítulo III aplica-se-lhes desde 2 de dezembro de 2027 (artigo 113.º, alínea c), subalínea i)). De acordo com a sua redação, o ponto 2 refere a gestão e o funcionamento do trânsito rodoviário, não os veículos.

• Fornecedor e responsável pela implantação

  O fornecedor desenvolve o sistema de IA, ou manda desenvolvê-lo, e coloca-o no mercado ou em serviço sob o seu próprio nome ou marca (artigo 3.º, ponto 3). No caso de um sistema de IA de risco elevado que seja um componente de segurança de um produto da secção A, o fabricante do produto é o fornecedor se o sistema for colocado no mercado com o produto sob o seu nome ou marca, ou for colocado em serviço sob esse nome ou marca depois de o produto ter sido colocado no mercado (artigo 25.º, n.º 3). O artigo 15.º é uma obrigação de conceção do fornecedor. Quem gere uma frota, uma instalação ou o trânsito e apenas utiliza o sistema é um responsável pela implantação (artigo 3.º, ponto 4) e não tem qualquer obrigação do artigo 15.º; um responsável pela implantação passa a ser fornecedor nos casos do artigo 25.º, n.º 1.

• Datas

  Os sistemas do anexo III, ponto 2, têm de cumprir o capítulo III desde 2 de dezembro de 2027, e os da secção A desde 2 de agosto de 2028 (artigo 113.º, alínea c)). Para os sistemas da secção B não se aplica nenhuma data aos artigos 9.º a 15.º, 17.º e 26.º, porque esses artigos não lhes são aplicáveis; nos termos do artigo 113.º, alínea c), subalínea ii), o capítulo III, secções 1 a 3, de que faz parte o artigo 6.º, aplica-se aos sistemas do anexo I desde 2 de agosto de 2028, e os artigos 102.º a 110.º aplicam-se desde 27 de julho de 2026 (artigo 113.º, alínea c), subalínea ii), e alínea d)). Um sistema colocado no mercado ou em serviço antes da data de aplicação do capítulo III só fica abrangido se, depois, sofrer alterações significativas em termos de conceção; em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111.º, n.º 2).

• Coimas

  O incumprimento das obrigações dos fornecedores (artigo 16.º) e dos responsáveis pela implantação (artigo 26.º) pode ser punido com coimas até 15 milhões de EUR ou, no caso de uma empresa, até 3 % do seu volume de negócios mundial total anual do exercício anterior, consoante o que for mais elevado (artigo 99.º, n.º 4). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo (artigo 99.º, n.º 6). O mesmo limite aplica-se às pequenas empresas de média capitalização (artigo 3.º, ponto 14-B, artigo 99.º, n.º 6-A). Cada Estado-Membro estabelece as regras sobre em que medida podem ser aplicadas coimas às autoridades e organismos públicos estabelecidos nesse Estado-Membro (artigo 99.º, n.º 8). O artigo 99.º não se inclui entre as disposições que, nos termos do artigo 2.º, n.º 2, se aplicam aos sistemas de IA de risco elevado nos termos do artigo 6.º, n.º 1, em produtos da secção B.

• Limites do âmbito de aplicação do regulamento

  O regulamento aplica-se aos fornecedores que coloquem no mercado ou em serviço sistemas de IA na União, ou coloquem no mercado modelos de IA de finalidade geral na União, independentemente do local onde estejam estabelecidos (artigo 2.º, n.º 1, alínea a)), e aos fornecedores e responsáveis pela implantação estabelecidos num país terceiro quando os resultados do sistema de IA sejam utilizados na União (alínea c)). Não se aplica a domínios que não sejam abrangidos pelo âmbito de aplicação do direito da União nem afeta as competências dos Estados-Membros em matéria de segurança nacional; também não se aplica aos sistemas de IA utilizados exclusivamente para fins militares, de defesa ou de segurança nacional (artigo 2.º, n.º 3). O regulamento não se aplica aos sistemas ou modelos de IA, incluindo os seus resultados, especificamente desenvolvidos e colocados em serviço com o único objetivo da investigação e do desenvolvimento científicos (artigo 2.º, n.º 6). Também não se aplica às atividades de investigação, teste ou desenvolvimento anteriores à colocação no mercado ou em serviço de um sistema ou modelo; os testes em condições reais não estão abrangidos por essa exclusão (artigo 2.º, n.º 8). Não se aplica aos sistemas de IA divulgados ao abrigo de licenças gratuitas e de código aberto, a menos que sejam colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado ou como sistemas de IA abrangidos pelo artigo 5.º ou 50.º (artigo 2.º, n.º 12).

• Nenhum valor de exatidão para os sistemas autónomos

  O artigo 15.º não indica, para nenhum setor, parâmetro de exatidão, valor mínimo, método de teste ou norma, nem para os sistemas autónomos. O fornecedor declara os níveis e os parâmetros pertinentes (artigo 15.º, n.º 3). As normas harmonizadas cujas referências são publicadas no Jornal Oficial conferem presunção de conformidade na medida em que cubram os requisitos (artigo 40.º, n.º 1); um certificado de cibersegurança publicado nos termos do Regulamento (UE) 2019/881 confere-a quanto aos requisitos de cibersegurança na medida em que os cubra (artigo 42.º, n.º 2). Os sistemas abrangidos pelo âmbito de aplicação do Regulamento (UE) 2024/2847 que cumpram as condições do artigo 12.º, n.º 1, desse regulamento consideram-se conformes com os requisitos de cibersegurança do artigo 15.º (artigo 42.º, n.º 3). A Comissão elabora orientações sobre a aplicação dos requisitos e obrigações dos artigos 8.º a 15.º e 25.º e 26.º (artigo 96.º, n.º 1, alínea a)).

• As normas setoriais e as regras de homologação não são obrigações do regulamento

  O regulamento não menciona nenhuma norma ISO, UNECE ou outra norma setorial. As regras de exatidão, robustez ou cibersegurança que um produto da secção B tem de cumprir são determinadas pela sua legislação setorial, e não pelo artigo 15.º; o regulamento não prejudica outros atos jurídicos da União em matéria de defesa do consumidor e de segurança dos produtos (artigo 2.º, n.º 9). A Comissão deve elaborar orientações sobre a relação do regulamento com a legislação de harmonização da União enumerada no anexo I e com outro direito da União pertinente (artigo 96.º, n.º 1, alínea e)).

• Secção A: os requisitos podem ser limitados (artigo 2.º, n.º 13)

  Para os sistemas de IA de risco elevado referidos no artigo 6.º, n.º 1, a aplicação de requisitos ou obrigações específicos dos artigos 9.º a 15.º e 17.º a 25.º pode ser limitada, na medida em que a legislação de harmonização da União enumerada na secção A do anexo I preveja requisitos ou obrigações que proporcionem um nível de proteção equivalente ou superior e a limitação não reduza o nível global de proteção previsto no regulamento (artigo 2.º, n.º 13). A Comissão deve adotar, até 2 de agosto de 2027, atos delegados que especifiquem os sistemas em causa, os requisitos que podem ser limitados, as condições e o âmbito. Segundo a nossa leitura do artigo 2.º, n.º 13, o regulamento não diz por si quais os requisitos limitados para um determinado produto da secção A; devem fazê-lo os atos delegados; consulte um jurista.

• Exemplo: parâmetros declarados para um componente de gestão do trânsito

  Exemplo, não um requisito do regulamento: o fornecedor de um componente de segurança para a gestão do trânsito rodoviário poderia declarar que parâmetros de exatidão mediu e em que condições de estrada, sensores e meteorologia.

• Exemplo: documentar o comportamento à prova de falhas

  Exemplo, não um requisito do regulamento: um fornecedor poderia documentar o que o sistema faz quando um sensor falha ou os seus dados de entrada não são plausíveis, por exemplo passando o controlo para uma lógica sem IA, como forma de descrever os planos de segurança contra falhas referidos no artigo 15.º, n.º 4.

• Artigo 15 do Regulamento de IA: exatidão, solidez e cibersegurança

  O artigo 15.º para todos os setores: requisitos, datas e coimas.

• Regulamento de IA para sistemas autónomos

  A visão geral dos sistemas autónomos: que vias do regulamento se aplicam a veículos, aeronaves, máquinas e IA do trânsito.

• Artigo 17.º para sistemas autónomos: sistema de gestão da qualidade

  Sistemas autónomos e artigo 17.º: o sistema de gestão da qualidade e quem é o fornecedor.

• Sistemas de IA de risco elevado do anexo I: a via da segurança dos produtos

  Anexo I: que sistemas de IA em produtos regulamentados são de risco elevado, com as secções A e B.