Artigo 12.º para sistemas autónomos: conservação de registos e registos

O artigo 12.º estabelece uma obrigação de conceção para o fornecedor. A conservação dos registos é outra obrigação, indicada nas linhas abaixo.

• art. 12(1)
  Registo automático de eventos durante a vida útil

  Os sistemas de IA de risco elevado devem permitir tecnicamente o registo automático de eventos («registos») durante a vida útil do sistema.

• art. 12(2)
  Rastreabilidade adequada à finalidade prevista

  As capacidades de registo devem assegurar um nível de rastreabilidade do funcionamento do sistema adequado à sua finalidade prevista. Devem permitir o registo de eventos pertinentes para três fins. O primeiro é identificar situações que possam dar azo a um risco na aceção do artigo 79.º, n.º 1 ou a uma modificação substancial. O segundo é facilitar o acompanhamento pós-comercialização (artigo 72.º). O terceiro é controlar o funcionamento do sistema (artigo 26.º, n.º 5).

• art. 12(3)
  Conteúdo mínimo dos registos: apenas a identificação biométrica à distância

  O artigo 12.º, n.º 3, enumera o conteúdo mínimo dos registos apenas para os sistemas de risco elevado referidos no anexo III, ponto 1, alínea a) (identificação biométrica à distância). Para os sistemas desta página, o regulamento não indica nenhum campo mínimo de registo.

O artigo 12.º aplica-se apenas aos sistemas de IA de risco elevado. As linhas abaixo mostram que IA em veículos, aeronaves não tripuladas, robôs e máquinas é abrangida, onde o artigo 12.º não se aplica e quem conserva os registos.

• Os sistemas autónomos não são uma categoria do regulamento

  O regulamento não tem nenhuma categoria para os sistemas autónomos. A sua definição de sistema de IA refere «níveis de autonomia variáveis» (artigo 3.º, n.º 1) e o artigo 14.º, n.º 3 refere um «nível de autonomia». O regulamento não nomeia nenhum veículo autónomo, drone ou robô. Este sítio usa «sistemas autónomos» para a IA em veículos, aeronaves não tripuladas, robôs e máquinas. As regras aplicáveis dependem do direito da União em matéria de produtos que abrange o produto. As linhas seguintes indicam três formas de um sistema de IA ser de risco elevado: através da secção B do anexo I, através da secção A do anexo I e através do anexo III, ponto 2. Podem aplicar-se também outras disposições, por exemplo o artigo 4.º (literacia no domínio da IA), o artigo 5.º (práticas proibidas), o artigo 50.º (transparência), o artigo 53.º (modelos de IA de finalidade geral) e os outros pontos do anexo III.

• Produtos da secção B: veículos, aeronaves não tripuladas, sistema ferroviário, equipamentos marítimos, máquinas

  A secção B do anexo I enumera, por exemplo, os veículos a motor (Regulamentos (UE) 2018/858 e (UE) 2019/2144, pontos 18 e 19), os veículos de duas ou três rodas e quadriciclos (ponto 14), os tratores agrícolas e florestais (ponto 15), o sistema ferroviário (ponto 17), os equipamentos marítimos (ponto 16), as aeronaves não tripuladas e os seus motores, hélices, peças e equipamento de controlo remoto ao abrigo do Regulamento (UE) 2018/1139 (ponto 20) e as máquinas (Regulamento (UE) 2023/1230, ponto 21). O Regulamento (UE) 2026/1744 transferiu as máquinas da secção A para a secção B. Para os sistemas de IA classificados como de risco elevado nos termos do artigo 6.º, n.º 1 e relacionados com esses produtos, apenas se aplicam o artigo 6.º, n.º 1, o artigo 60.º-A e os artigos 102.º a 112.º. Os artigos 57.º, 58.º e 59.º só se aplicam na medida em que os requisitos para os sistemas de IA de risco elevado tenham sido integrados nessa legislação de harmonização da União (artigo 2.º, n.º 2). Os artigos 9.º a 15.º, 17.º, 26.º e 99.º não figuram entre as disposições aplicáveis. O artigo 2.º, n.º 2, limita-se aos sistemas de IA classificados como de risco elevado nos termos do artigo 6.º, n.º 1; não restringe, por exemplo, o artigo 4.º nem o artigo 5.º. A página de panorama dos sistemas autónomos enumera o que alcança, em contrapartida, estes produtos.

• Produtos da secção A: o capítulo III aplica-se aos sistemas de risco elevado

  A secção A do anexo I (pontos 2 a 12) abrange os brinquedos, as embarcações de recreio, os ascensores, os aparelhos e sistemas de proteção destinados a ser utilizados em atmosferas potencialmente explosivas, os equipamentos de rádio, os equipamentos sob pressão, as instalações por cabo, os equipamentos de proteção individual, os aparelhos a gás, os dispositivos médicos e os dispositivos médicos para diagnóstico in vitro. Um sistema de IA é de risco elevado nos termos do artigo 6.º, n.º 1 se se destinar a ser utilizado como componente de segurança de um desses produtos, ou for ele próprio um desses produtos, e o produto tiver de ser sujeito a uma avaliação da conformidade por terceiros ao abrigo dessa legislação. Uma avaliação da conformidade por terceiros exigida unicamente devido a riscos que não sejam riscos para a saúde e a segurança, mormente riscos relacionados com a distribuição do espetro de radiofrequências ou com interferências eletromagnéticas que não afetem a saúde e a segurança, não preenche essa condição (artigo 6.º, n.º 1-C). Os requisitos para estes sistemas aplicam-se a partir de 2 de agosto de 2028 (artigo 113.º, alínea c), subalínea ii)). O artigo 2.º, n.º 13 permite limitar a aplicação de requisitos específicos dos artigos 9.º a 15.º e 17.º a 25.º, quando e na medida em que a legislação da secção A estabeleça requisitos que proporcionem um nível de proteção equivalente ou superior e a limitação não reduza o nível global de proteção. A Comissão deve adotar atos delegados sobre esta matéria até 2 de agosto de 2027.

• Anexo III, ponto 2: trânsito rodoviário, redes de abastecimento e infraestruturas digitais

  O anexo III, ponto 2, abrange os sistemas de IA concebidos para serem utilizados como componentes de segurança na gestão e no controlo de infraestruturas digitais críticas, do trânsito rodoviário ou das redes de abastecimento de água, gás, aquecimento ou eletricidade. O texto do anexo III não nomeia nenhum veículo, aeronave, drone ou robô. Saber se um determinado sistema é um componente de segurança numa destas áreas é uma questão para um jurista. Os requisitos para estes usos do anexo III aplicam-se a partir de 2 de dezembro de 2027 (artigo 113.º, alínea c), subalínea i)).

• O artigo 6.º, n.º 3, pode retirar um sistema do anexo III

  Um sistema abrangido pelo ponto 2 é de risco elevado nos termos do artigo 6.º, n.º 2. Nos termos do artigo 6.º, n.º 3, não é de risco elevado se não representar um risco significativo de danos para a saúde, a segurança ou os direitos fundamentais. Isso inclui não influenciar de forma significativa o resultado da tomada de decisões. O regulamento aplica esta exceção quando estiver preenchida qualquer das seguintes condições (artigo 6.º, n.º 3, alíneas a) a d)). O sistema destina-se a desempenhar uma tarefa processual restrita. Ou destina-se a melhorar o resultado de uma atividade humana previamente concluída. Ou destina-se a detetar padrões de tomada de decisões ou desvios em relação a padrões de tomada de decisões anteriores e não se destina a substituir nem influenciar uma avaliação humana previamente concluída, sem que se proceda a uma verificação adequada por um ser humano. Ou destina-se a executar uma tarefa preparatória no contexto de uma avaliação pertinente para os casos de utilização enumerados no anexo III. Saber como estas condições se combinam com o critério do risco significativo é uma questão para um jurista. O sistema é sempre de risco elevado se executar a definição de perfis de pessoas singulares. A definição de perfis consta do artigo 4.º, ponto 4), do RGPD (artigo 3.º, ponto 52). O fornecedor que invoque a exceção documenta a sua avaliação antes de o sistema ser colocado no mercado ou colocado em serviço. Tem também de registar o sistema (artigo 6.º, n.º 4, artigo 49.º, n.º 2).

• Só os componentes de segurança são abrangidos

  Um componente de segurança é um componente de um produto ou sistema de IA que cumpre uma função de segurança nesse produto ou sistema de IA, ou cuja falha ou anomalia põe em risco a saúde e a segurança de pessoas ou bens. Um componente cumpre uma função de segurança quando a sua finalidade prevista é prevenir ou atenuar riscos para a saúde e a segurança de pessoas ou bens (artigo 3.º, ponto 14). Os sistemas de IA utilizados exclusivamente para aspetos não relacionados com a segurança da assistência ao utilizador, a otimização do desempenho, a eficiência do serviço, a automatização ou a conveniência ou o controlo da qualidade não são considerados componentes de segurança (artigo 6.º, n.º 1-A). Os sistemas de IA cuja falha ou mau funcionamento possa pôr em perigo a saúde e a segurança são considerados componentes de segurança (artigo 6.º, n.º 1-B). Saber se uma determinada função de controlo, navegação ou conveniência é um componente de segurança é uma questão para um jurista.

• Fornecedor e responsável pela implantação

  O fornecedor («prestador» no regulamento) desenvolve um sistema de IA, ou manda desenvolvê-lo, e coloca-o no mercado ou em serviço sob o seu próprio nome ou a sua própria marca (artigo 3.º, ponto 3). A colocação em serviço inclui o fornecimento para utilização própria do fornecedor (artigo 3.º, ponto 11). Para um componente de segurança de um produto da secção A, o fabricante do produto é o fornecedor quando o sistema é colocado no mercado juntamente com o produto sob o nome ou a marca do fabricante, ou é colocado em serviço sob esse nome ou marca depois de o produto ter sido colocado no mercado (artigo 25.º, n.º 3). Um operador de frota, um operador de instalações industriais ou uma autoridade rodoviária que utilize um sistema sob a sua autoridade é um responsável pela implantação (artigo 3.º, ponto 4). O responsável pela implantação passa a ser fornecedor em três casos. Apõe o seu nome ou marca num sistema de risco elevado já colocado no mercado, sem prejuízo de disposições contratuais que estipulem uma atribuição diferente das obrigações. Faz uma modificação substancial desse sistema que o mantém de risco elevado. Ou altera a finalidade prevista de um sistema que não era de risco elevado, de modo a que passe a sê-lo (artigo 25.º, n.º 1). O fornecedor que inicialmente colocou o sistema no mercado ou em serviço deixa então de ser considerado o fornecedor desse sistema específico e deve cooperar estreitamente com o novo fornecedor (artigo 25.º, n.º 2). Isto não se aplica se o fornecedor inicial tiver especificado claramente que o seu sistema não deve ser transformado num sistema de IA de risco elevado.

• Os fornecedores conservam os registos que estão sob o seu controlo

  Os fornecedores devem conservar os registos gerados automaticamente pelos seus sistemas de risco elevado, na medida em que estejam sob o seu controlo (artigo 19.º, n.º 1). Sem prejuízo do direito da União ou do direito nacional aplicável, o período deve ser adequado à finalidade prevista e de pelo menos seis meses. Pode ser diferente se o direito da União ou o direito nacional, em especial em matéria de proteção de dados pessoais, dispuser em contrário.

• Os responsáveis pela implantação conservam os registos que estão sob o seu controlo

  Os responsáveis pela implantação devem conservar os registos gerados automaticamente pelo sistema, na medida em que estejam sob o seu controlo (artigo 26.º, n.º 6). O período deve ser adequado à finalidade prevista e de pelo menos seis meses. Pode ser diferente se o direito da União ou o direito nacional aplicável, em especial em matéria de proteção de dados pessoais, dispuser em contrário.

• Incidentes graves: morte, danos graves, infraestruturas críticas

  Um incidente grave inclui um incidente ou anomalia de um sistema de IA que conduza, direta ou indiretamente, à morte de uma pessoa ou a danos graves para a saúde de uma pessoa, a danos graves a bens ou ao ambiente, ou a uma perturbação grave e irreversível da gestão ou do funcionamento de infraestruturas críticas (artigo 3.º, ponto 49, alíneas a), b) e d)). O fornecedor de um sistema de risco elevado comunica-o às autoridades de fiscalização do mercado do Estado-Membro onde ocorreu (artigo 73.º, n.º 1). A comunicação deve ser feita imediatamente após o fornecedor ter determinado uma relação causal, ou a probabilidade razoável de que exista uma relação causal, e, em todo o caso, o mais tardar 15 dias após o fornecedor ou, se for caso disso, o responsável pela implantação ter tomado conhecimento do incidente. Em caso de morte de uma pessoa o limite é de 10 dias e, em caso de infração generalizada ou de perturbação de infraestruturas críticas, é de dois dias (artigo 73.º, n.os 2, 3 e 4). Um responsável pela implantação que tenha identificado um incidente grave informa primeiro o fornecedor e depois o importador ou distribuidor e as autoridades de fiscalização do mercado competentes (artigo 26.º, n.º 5).

• Datas

  Secção A: os requisitos do capítulo III, secções 1 a 3, aplicam-se aos sistemas de IA classificados como de risco elevado nos termos do artigo 6.º, n.º 1, a partir de 2 de agosto de 2028 (artigo 113.º, alínea c), subalínea ii)). Anexo III, ponto 2: a partir de 2 de dezembro de 2027 (alínea c), subalínea i)). Secção B: os artigos 9.º a 15.º não têm data porque não se aplicam (artigo 2.º, n.º 2); os artigos 102.º a 110.º aplicam-se a partir de 27 de julho de 2026 (alínea d)). Um sistema colocado no mercado ou colocado em serviço antes da data de aplicação só fica abrangido se, depois, a sua conceção sofrer alterações significativas. Em qualquer caso, os fornecedores e os responsáveis pela implantação de sistemas de IA de risco elevado destinados a ser utilizados por autoridades públicas devem tomar as medidas necessárias para cumprir até 2 de agosto de 2030 (artigo 111.º, n.º 2).

• Coimas

  Os fornecedores devem assegurar que os seus sistemas de risco elevado cumprem os requisitos da secção 2 do capítulo III, que inclui os artigos 9.º a 15.º (artigo 16.º, alínea a)). O incumprimento das obrigações dos fornecedores previstas no artigo 16.º ou das obrigações dos responsáveis pela implantação previstas no artigo 26.º pode ser punido com coima. A coima pode ir até 15 milhões de EUR ou, no caso de uma empresa, até 3 % do seu volume de negócios mundial total anual do exercício anterior, consoante o que for mais elevado (artigo 99.º, n.º 4, alíneas a) e e)). Para as PME, incluindo as empresas em fase de arranque, cada coima fica limitada ao montante mais baixo dos dois (artigo 99.º, n.º 6). O mesmo limite aplica-se às pequenas empresas de média capitalização (artigo 3.º, ponto 14-B, artigo 99.º, n.º 6-A). Cada Estado-Membro define regras que permitam determinar em que medida podem ser aplicadas coimas às autoridades e organismos públicos estabelecidos nesse Estado-Membro (artigo 99.º, n.º 8). Para os produtos da secção B, o artigo 99.º não figura entre as disposições que o artigo 2.º, n.º 2, enumera como aplicáveis.

• Âmbito e limites do regulamento

  O regulamento aplica-se aos fornecedores e responsáveis pela implantação que tenham o seu local de estabelecimento ou estejam localizados num país terceiro, se o resultado produzido pelo sistema de IA for utilizado na União (artigo 2.º, n.º 1, alínea c)). Não se aplica a domínios não abrangidos pelo âmbito de aplicação do direito da União nem afeta as competências dos Estados-Membros em matéria de segurança nacional (artigo 2.º, n.º 3). Não se aplica aos sistemas de IA quando e na medida em que sejam colocados no mercado, colocados em serviço ou utilizados, com ou sem modificação, exclusivamente para fins militares, de defesa ou de segurança nacional (artigo 2.º, n.º 3). O regulamento não se aplica a sistemas de IA ou modelos de IA, incluindo os respetivos resultados, especificamente desenvolvidos e colocados em serviço exclusivamente para fins de investigação e desenvolvimento científicos (artigo 2.º, n.º 6). Também não se aplica às atividades de investigação, testagem ou desenvolvimento antes de um sistema ser colocado no mercado ou colocado em serviço. A testagem em condições reais não é abrangida por essa exclusão (artigo 2.º, n.º 8). Os sistemas de IA lançados ao abrigo de licenças gratuitas e de código aberto ficam fora do regulamento. Essa exclusão não se aplica se forem colocados no mercado ou colocados em serviço como sistemas de IA de risco elevado, ou se se enquadrarem nos artigos 5.º ou 50.º (artigo 2.º, n.º 12). O regulamento não se aplica às obrigações dos responsáveis pela implantação que sejam pessoas singulares que utilizam sistemas de IA no âmbito de uma atividade puramente pessoal de caráter não profissional (artigo 2.º, n.º 10).

• Nenhum campo de registo, formato, regra de inviolabilidade nem gravador

  Para além de «pelo menos seis meses, salvo disposição em contrário», o regulamento não indica campos de registo, formato nem prazo de conservação para os sistemas desta página (artigo 19.º, n.º 1, artigo 26.º, n.º 6). Outro direito da União ou nacional pode dispor de outro modo. O artigo 12.º não contém nenhuma regra sobre proteção contra a adulteração nem exige um gravador de eventos. O próprio regulamento não nomeia nenhuma norma harmonizada. Presume-se que os sistemas de risco elevado conformes com normas harmonizadas publicadas no Jornal Oficial da União Europeia são conformes com os requisitos da secção 2, desde que essas normas os abranjam (artigo 40.º, n.º 1). A Comissão deve elaborar orientações sobre a aplicação prática dos requisitos e obrigações dos artigos 8.º a 15.º, 25.º e 26.º (artigo 96.º, n.º 1, alínea a)) e sobre a relação do regulamento com a legislação do anexo I (alínea e)).

• Exemplo: o que poderia conter o registo de uma função de segurança

  Exemplo, não um requisito do regulamento: o fornecedor de uma função de segurança de IA para um ascensor poderia registar, em cada utilização, a hora, as entradas de sensores em que o sistema se baseou e o resultado ou a ação que desencadeou. Assim, uma ação inesperada pode ser rastreada.

• Exemplo: conservar os registos do responsável pela implantação com os registos de exploração

  Exemplo, não um requisito do regulamento: um responsável pela implantação poderia conservar os registos sob o seu controlo juntamente com os seus outros registos de exploração. O prazo continua a ser de pelo menos seis meses, salvo disposição em contrário no direito da União ou nacional aplicável (artigo 26.º, n.º 6).

• Artigo 12 do Regulamento de IA: manutenção de registos

  O artigo 12.º para todos os setores: requisitos, datas e coimas.

• Regulamento de IA para sistemas autónomos

  Panorama dos sistemas autónomos: as três formas de um sistema ser de risco elevado para veículos, aeronaves não tripuladas, robôs e máquinas, e as outras disposições que podem aplicar-se.

• Artigo 13.º para sistemas autónomos: transparência e instruções de utilização

  Sistemas autónomos e artigo 13.º: instruções de utilização e declaração de exatidão.

• Artigo 72.º: acompanhamento pós-comercialização

  O acompanhamento pós-comercialização, que o registo previsto no artigo 12.º, n.º 2, alínea b), visa facilitar.