Artigo 13.º para a IA de infraestruturas críticas: transparência e instruções de utilização

O artigo 13.º estabelece obrigações do fornecedor para com o responsável pela implantação. Não impõe nenhum dever de publicar informações nem de explicar uma decisão a uma pessoa afetada.

• art. 13(1)
  Transparência que permite aos responsáveis pela implantação interpretar os resultados

  Os sistemas de IA de risco elevado devem ser concebidos e desenvolvidos de maneira que o seu funcionamento seja suficientemente transparente para permitir aos responsáveis pela implantação interpretar os resultados do sistema e utilizá-los de forma adequada. Deve ser garantido um tipo e um grau adequados de transparência, para que o fornecedor e o responsável pela implantação possam cumprir as suas obrigações nos termos da secção 3.

• art. 13(2)
  Instruções de utilização

  Os sistemas de risco elevado devem ser acompanhados de instruções de utilização, num formato digital adequado ou outro. Estas devem incluir informações concisas, completas, corretas e claras, pertinentes, acessíveis e compreensíveis para os responsáveis pela implantação.

• art. 13(3)(a), (b)
  Conteúdo mínimo: fornecedor, desempenho e limites

  As instruções devem incluir, pelo menos, a identidade e os dados de contacto do fornecedor, bem como as características, capacidades e limitações de desempenho do sistema. Entre estas conta-se a sua finalidade prevista. Conta-se o nível de exatidão, incluindo os seus parâmetros, de solidez e de cibersegurança usado como referência para testar e validar o sistema e que pode ser esperado, bem como as circunstâncias conhecidas que o possam afetar. Contam-se as circunstâncias conhecidas ou previsíveis que possam causar riscos para a saúde, a segurança ou os direitos fundamentais. Se for caso disso ou quando oportuno, contam-se também as capacidades técnicas para explicar os resultados, o desempenho em relação a determinadas pessoas ou grupos, as especificações para os dados de entrada e as informações que permitam aos responsáveis pela implantação interpretar os resultados.

• art. 13(3)(c)–(f)
  Alterações, supervisão, recursos e registos

  As instruções devem indicar também as alterações predeterminadas pelo fornecedor aquando da avaliação da conformidade inicial, se for caso disso, e as medidas de supervisão humana previstas no artigo 14.º. Devem indicar os recursos computacionais e de hardware necessários, a vida útil esperada e as medidas de manutenção, incluindo as atualizações do software. Sempre que pertinente, descrevem os mecanismos que permitem aos responsáveis pela implantação recolher, armazenar e interpretar corretamente os registos, em conformidade com o artigo 12.º.

O artigo 13.º aplica-se apenas aos sistemas de IA de risco elevado. As linhas abaixo mostram onde a IA para infraestruturas críticas passa a ser de risco elevado.

• As infraestruturas críticas são um domínio do anexo III, não um regime setorial

  O regulamento não tem um regime setorial de infraestruturas críticas para fornecedores ou responsáveis pela implantação. O anexo III, ponto 2, é o domínio de risco elevado intitulado «Infraestruturas críticas». Este sítio usa essas palavras para a IA que entra no regulamento por esse ponto. O ponto 2 abrange os sistemas de IA concebidos para serem utilizados como componentes de segurança na gestão e no controlo de infraestruturas digitais críticas, do trânsito rodoviário ou das redes de abastecimento de água, gás, aquecimento ou eletricidade. O artigo 3.º, ponto 62, define «infraestrutura crítica» por remissão para o artigo 2.º, ponto 4, da Diretiva (UE) 2022/2557. O regulamento não define separadamente «infraestruturas digitais críticas». O ponto 2 não nomeia o transporte ferroviário, aéreo ou marítimo, nem os portos ou os aeroportos. Um sistema para qualquer um deles só é de risco elevado se outro ponto do anexo III ou o anexo I o abranger.

• Só os componentes de segurança são abrangidos

  Um componente de segurança é um componente de um produto ou sistema de IA que cumpre uma função de segurança nesse produto ou sistema de IA, ou cuja falha ou anomalia põe em risco a saúde e a segurança de pessoas ou bens. Um componente cumpre uma função de segurança quando a sua finalidade prevista é prevenir ou atenuar riscos para a saúde e a segurança de pessoas ou bens (artigo 3.º, ponto 14). Os sistemas de IA utilizados exclusivamente para aspetos não relacionados com a segurança da assistência ao utilizador, a otimização do desempenho, a eficiência do serviço, a automatização ou a conveniência ou o controlo da qualidade não são considerados componentes de segurança (artigo 6.º, n.º 1-A). Os sistemas de IA cuja falha ou mau funcionamento possa pôr em perigo a saúde e a segurança são considerados componentes de segurança (artigo 6.º, n.º 1-B). O artigo 6.º, n.º 5, obrigava a Comissão a fornecer, o mais tardar em 2 de fevereiro de 2026, orientações com uma lista completa de exemplos práticos de casos de utilização de risco elevado e de risco não elevado. O considerando 55 do texto de 2024 descreve os componentes de segurança de infraestruturas críticas como sistemas utilizados para proteger diretamente a integridade física das infraestruturas críticas ou a saúde e a segurança de pessoas e bens, mas que não são necessários para o funcionamento do sistema. Indica que os componentes destinados a serem utilizados exclusivamente para fins de cibersegurança não devem ser considerados componentes de segurança. Um considerando não é uma regra vinculativa. Saber se uma determinada ferramenta de previsão, otimização ou manutenção é um componente de segurança é uma questão para um jurista.

• O artigo 6.º, n.º 3, pode retirar um sistema do anexo III

  Um sistema abrangido pelo ponto 2 é de risco elevado nos termos do artigo 6.º, n.º 2. Nos termos do artigo 6.º, n.º 3, não é de risco elevado se não representar um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais. Isso inclui não influenciar de forma significativa o resultado da tomada de decisões. O regulamento aplica esta exceção quando estiver preenchida qualquer das seguintes condições (artigo 6.º, n.º 3, alíneas a) a d)). O sistema destina-se a desempenhar uma tarefa processual restrita. Ou destina-se a melhorar o resultado de uma atividade humana previamente concluída. Ou destina-se a detetar padrões de tomada de decisões ou desvios em relação a padrões de tomada de decisões anteriores e não se destina a substituir nem influenciar uma avaliação humana previamente concluída, sem que se proceda a uma verificação adequada por um ser humano. Ou destina-se a executar uma tarefa preparatória no contexto de uma avaliação pertinente para os casos de utilização enumerados no anexo III. Saber como estas condições se combinam com o critério do risco significativo é uma questão para um jurista. O sistema é sempre de risco elevado se executar a definição de perfis de pessoas singulares. A definição de perfis consta do artigo 4.º, ponto 4), do RGPD (artigo 3.º, ponto 52). O fornecedor que invoque a exceção documenta a sua avaliação antes de o sistema ser colocado no mercado ou colocado em serviço. Tem também de registar o sistema (artigo 6.º, n.º 4, artigo 49.º, n.º 2).

• Os produtos do anexo I são uma via distinta

  Um sistema de IA também pode ser de risco elevado nos termos do artigo 6.º, n.º 1. Para isso tem de ser um componente de segurança de um produto, ou um produto, abrangido pela legislação de harmonização da União enumerada no anexo I, quando o produto tenha de ser sujeito a uma avaliação da conformidade por terceiros. A secção A do anexo I enumera, por exemplo, os equipamentos sob pressão (ponto 7) e os aparelhos a gás (ponto 10). Os requisitos para estes sistemas aplicam-se a partir de 2 de agosto de 2028 (artigo 113.º, alínea c), subalínea ii)). A secção B enumera, por exemplo, o sistema ferroviário (ponto 17, Diretiva (UE) 2016/797). Para os sistemas de risco elevado relacionados com produtos da secção B, apenas se aplicam o artigo 6.º, n.º 1, o artigo 60.º-A e os artigos 102.º a 112.º. Os artigos 57.º, 58.º e 59.º só se aplicam na medida em que os requisitos para os sistemas de IA de risco elevado tenham sido integrados nessa legislação (artigo 2.º, n.º 2). Os artigos 9.º a 15.º não figuram entre as disposições aplicáveis.

• Fornecedor e responsável pela implantação

  O fornecedor («prestador» no regulamento) desenvolve um sistema de IA, ou manda desenvolvê-lo, e coloca-o no mercado ou em serviço sob o seu próprio nome ou a sua própria marca (artigo 3.º, ponto 3). A colocação em serviço inclui o fornecimento para utilização própria do fornecedor (artigo 3.º, ponto 11). Uma empresa de redes, um município ou uma autoridade rodoviária que desenvolve um sistema e o coloca em serviço sob o seu próprio nome é, por isso, fornecedor. Quem utiliza um sistema sob a sua autoridade é um responsável pela implantação (artigo 3.º, ponto 4). O responsável pela implantação passa a ser fornecedor em três casos. Apõe o seu nome ou marca num sistema de risco elevado já colocado no mercado, sem prejuízo de disposições contratuais que estipulem uma atribuição diferente das obrigações. Faz uma modificação substancial desse sistema que o mantém de risco elevado. Ou altera a finalidade prevista de um sistema que não era de risco elevado, de modo a que passe a sê-lo (artigo 25.º, n.º 1). O fornecedor que inicialmente colocou o sistema no mercado ou em serviço deixa então de ser considerado o fornecedor desse sistema específico e deve cooperar estreitamente com o novo fornecedor (artigo 25.º, n.º 2). Isto não se aplica se o fornecedor inicial tiver especificado claramente que o seu sistema não deve ser transformado num sistema de IA de risco elevado.

• O artigo 86.º não abrange o ponto 2

  O artigo 86.º, n.º 1, confere à pessoa afetada um direito a explicações sobre uma decisão tomada pelo responsável pela implantação com base nos resultados de um sistema de risco elevado do anexo III, «com exceção dos sistemas enumerados no ponto 2». Um responsável pela implantação de um sistema do ponto 2 não está, por isso, sujeito a ele. Os responsáveis pela implantação de sistemas de risco elevado referidos no anexo III que tomam decisões ou ajudam a tomar decisões relacionadas com pessoas singulares devem informá-las de que estão sujeitas à utilização do sistema (artigo 26.º, n.º 11).

• Datas

  Os requisitos para estes usos do anexo III aplicam-se a partir de 2 de dezembro de 2027 (artigo 113.º, alínea c), subalínea i)). Um sistema colocado no mercado ou colocado em serviço antes dessa data só fica abrangido se, depois, a sua conceção sofrer alterações significativas. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111.º, n.º 2). Os artigos 43.º e 49.º (capítulo III, secção 5) e os artigos 72.º e 73.º (capítulo IX) ficam fora do artigo 113.º, alínea c). O artigo 113.º não indica uma data própria para eles, pelo que, segundo a sua regra geral, se aplicam a partir de 2 de agosto de 2026. Saber como isto se articula com a data acima é uma questão para um jurista.

• Coimas

  Os fornecedores devem assegurar que os seus sistemas de risco elevado cumprem os requisitos da secção 2 do capítulo III, que inclui os artigos 9.º a 15.º (artigo 16.º, alínea a)). O incumprimento das obrigações dos fornecedores previstas no artigo 16.º ou das obrigações dos responsáveis pela implantação previstas no artigo 26.º pode ser punido com coima. A coima pode ir até 15 milhões de EUR ou, no caso de uma empresa, até 3 % do seu volume de negócios mundial total anual do exercício anterior, consoante o que for mais elevado (artigo 99.º, n.º 4, alíneas a) e e)). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo dos dois (artigo 99.º, n.º 6). O mesmo limite aplica-se às pequenas empresas de média capitalização (artigo 3.º, ponto 14-B, artigo 99.º, n.º 6-A). Cada Estado-Membro define regras que permitam determinar em que medida podem ser aplicadas coimas às autoridades e organismos públicos estabelecidos nesse Estado-Membro (artigo 99.º, n.º 8).

• Âmbito e limites do regulamento

  O regulamento aplica-se aos fornecedores e responsáveis pela implantação que tenham o seu local de estabelecimento ou estejam localizados num país terceiro, se o resultado produzido pelo sistema de IA for utilizado na União (artigo 2.º, n.º 1, alínea c)). Não se aplica a domínios não abrangidos pelo âmbito de aplicação do direito da União nem afeta as competências dos Estados-Membros em matéria de segurança nacional (artigo 2.º, n.º 3). Não se aplica aos sistemas de IA quando e na medida em que sejam colocados no mercado, colocados em serviço ou utilizados, com ou sem modificação, exclusivamente para fins militares, de defesa ou de segurança nacional (artigo 2.º, n.º 3). Não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares e utilizem sistemas de IA no decurso de uma atividade pessoal de caráter puramente não profissional (artigo 2.º, n.º 10). O regulamento não se aplica aos sistemas ou modelos de IA, incluindo os respetivos resultados, especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos (artigo 2.º, n.º 6). Também não se aplica às atividades de investigação, testagem ou desenvolvimento antes de um sistema ser colocado no mercado ou colocado em serviço. A testagem em condições reais não é abrangida por essa exclusão (artigo 2.º, n.º 8). Os sistemas de IA lançados ao abrigo de licenças gratuitas e de código aberto ficam fora do regulamento. Essa exclusão não se aplica se forem colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado, ou se se enquadrarem nos artigos 5.º ou 50.º (artigo 2.º, n.º 12).

• Nenhum formato para as instruções de utilização nas infraestruturas

  O regulamento não indica formato, modelo nem redação para as instruções de utilização dos componentes de segurança de infraestruturas. O fornecedor decide como apresentar os elementos exigidos pelo artigo 13.º, n.º 3. O regulamento não nomeia nenhuma norma harmonizada. Presume-se que os sistemas de risco elevado conformes com normas harmonizadas publicadas no Jornal Oficial da União Europeia são conformes com os requisitos da secção 2, desde que essas normas os abranjam (artigo 40.º, n.º 1). A Comissão deve elaborar orientações sobre a aplicação prática dos requisitos e obrigações dos artigos 8.º a 15.º, 25.º e 26.º (artigo 96.º, n.º 1, alínea a)).

• Exemplo: condições de funcionamento nas instruções de utilização

  Exemplo, não um requisito do regulamento: as instruções de utilização de um componente de segurança poderiam indicar as condições de funcionamento em que a sua exatidão foi medida e aquelas em que não se deve confiar no seu resultado. O artigo 13.º, n.º 3, alínea b), subalíneas ii) e iii), exigem o nível de exatidão testado e as circunstâncias que o possam afetar ou dar origem a riscos.

• Exemplo: descrever o procedimento de paragem

  Exemplo, não um requisito do regulamento: as instruções de utilização poderiam descrever o procedimento de paragem e o estado que o sistema atinge quando pára. O artigo 13.º, n.º 3, alínea d), exige as medidas de supervisão humana do artigo 14.º.

• Artigo 13 do Regulamento de IA: transparência e instruções de utilização

  O artigo 13.º para todos os setores: requisitos, datas e coimas.

• Regulamento de IA para infraestrutura crítica

  Panorama das infraestruturas críticas: como o regulamento alcança a IA de componentes de segurança.

• Artigo 14.º para a IA de infraestruturas críticas: supervisão humana

  IA de infraestruturas críticas e artigo 14.º: supervisão por pessoas singulares e o que o regulamento não exige.

• Anexo III em detalhe: as 8 categorias de risco elevado

  As categorias do anexo III, incluindo o ponto 2, sobre infraestruturas críticas.