Artigo 13.º: transparência em sistemas autónomos — EU AI Act
Como a transparência do artigo 13.º da EU AI Act se aplica aos sistemas autónomos — divulgação do ODD, notificação dos passageiros e instruções para operadores de frotas.
O artigo 13.º da EU AI Act exige que os sistemas de IA de alto risco sejam suficientemente transparentes para que os responsáveis pela implementação possam interpretar os resultados e utilizá-los de forma adequada. Para os sistemas autónomos — veículos autónomos, drones e maquinaria autónoma — a transparência determina se os operadores humanos podem monitorizar, intervir e confiar com segurança nas decisões orientadas pela IA em ambientes críticos para a segurança. Ao abrigo do Anexo III, secção 2(a), os sistemas de IA destinados a servir de componentes de segurança na gestão do tráfego rodoviário e no funcionamento de veículos autónomos são classificados como de alto risco.
Esta página explica como os requisitos de transparência do artigo 13.º se aplicam especificamente aos sistemas autónomos — desde veículos autónomos a drones industriais — incluindo a divulgação do domínio operacional, as instruções para os operadores de frotas, a notificação aos passageiros e as violações ao nível do código que a Scanara deteta no software de sistemas autónomos.
Que sistemas de IA autónomos devem ser transparentes?
Veículos autónomos (SAE L3-L5)
Os veículos autónomos devem divulgar os limites do seu domínio de conceção operacional (ODD) aos passageiros e aos operadores de frotas. Os passageiros devem conhecer as capacidades e limitações do sistema — incluindo quando a IA pode solicitar a tomada de controlo humano e o tempo de transição previsto.
Drones autónomos e UAV
Os sistemas de deteção e evasão (DAA) assistidos por IA e o planeamento de voo autónomo devem fornecer aos operadores explicações transparentes das decisões de navegação, em particular quando a IA ignora as rotas planeadas ou aciona procedimentos de emergência. A EASA exige transparência sobre as limitações dos sistemas DAA assistidos por IA.
Maquinaria industrial autónoma
Os robôs de armazém, a maquinaria agrícola e os sistemas de fabrico controlados por IA devem fornecer aos operadores informações claras sobre a lógica de decisão do sistema, os limites de segurança e as condições em que a IA pode comportar-se de forma imprevisível ou exigir intervenção humana.
Sistemas marítimos e ferroviários autónomos
Os sistemas de navegação por IA para navios autónomos e operações ferroviárias devem ser transparentes quanto às decisões de encaminhamento, à lógica de prevenção de colisões e aos limites operacionais. As autoridades de transporte devem receber informações suficientes para avaliar a aptidão da IA para a implementação em contextos operacionais específicos.
Principais obrigações de transparência para os sistemas autónomos
O artigo 13.º exige instruções de utilização que permitam aos responsáveis pela implementação interpretar os resultados da IA de forma adequada. Para os sistemas autónomos, isto significa que os operadores de frotas e as autoridades de transporte devem compreender os limites operacionais da IA, a fundamentação das decisões e o comportamento em casos-limite — uma transparência que afeta diretamente a segurança física.
O domínio de conceção operacional deve ser divulgado
As instruções de utilização devem definir claramente o ODD — as condições específicas em que o sistema autónomo foi concebido para funcionar em segurança. Isto inclui as condições meteorológicas, os tipos de estrada, os intervalos de velocidade, os limites geográficos e as restrições consoante a hora do dia. Operar fora do ODD documentado sem divulgação viola o artigo 13.º.
Os responsáveis pela implementação devem compreender os pontos de intervenção
O artigo 13.º(1) exige que os responsáveis pela implementação interpretem os resultados de forma adequada. Para os sistemas autónomos, isto significa que os operadores de frotas devem compreender quando e como intervir — incluindo os prazos dos pedidos de tomada de controlo, os comportamentos de recurso e a resposta prevista do sistema quando funciona no limite das suas capacidades.
Os passageiros devem conhecer as capacidades do sistema
Os passageiros de veículos autónomos devem ser informados das capacidades operacionais e das limitações do sistema. Isto inclui o nível de autonomia atual, o que a IA consegue e não consegue gerir e o que se espera do condutor humano (se existir). As marcações de identificação dos veículos podem variar consoante a jurisdição.
O comportamento em casos-limite deve ser documentado
A documentação técnica deve explicar o comportamento do sistema em condições degradadas: falhas de sensores, condições meteorológicas adversas, obstáculos invulgares e perda de conetividade de rede. O artigo 13.º(3)(b)(i) exige a divulgação das limitações e condições em que o sistema pode apresentar mau funcionamento — para os sistemas autónomos, trata-se de divulgações críticas para a segurança.
Sobreposições regulamentares
A transparência dos sistemas autónomos cruza-se com os quadros de homologação, as regulamentações da aviação e as normas de segurança. O artigo 13.º deve ser coordenado com os requisitos setoriais existentes em matéria de transparência e documentação.
Regulamento-quadro relativo à homologação (TAFR)
O Regulamento-quadro da UE relativo à homologação exige documentação técnica detalhada para a certificação de veículos autónomos, incluindo o domínio de conceção operacional, os dados de validação de segurança e a conceção da interface homem-máquina. Os requisitos do artigo 13.º da AI Act relativos às instruções de utilização devem estar alinhados com a documentação do TAFR para evitar divulgações contraditórias ou redundantes.
Regulamento Geral de Segurança (GSR)
O GSR impõe sistemas avançados de assistência à condução e estabelece requisitos quanto à sua transparência para os condutores. Os registadores de dados de eventos, a deteção de sonolência do condutor e a assistência inteligente à velocidade exigem todos a notificação do condutor. O artigo 13.º alarga estes requisitos de transparência ao nível do sistema de IA, exigindo a documentação das capacidades, limitações e desempenho.
Regulamentos da EASA sobre operações aéreas
A Agência da União Europeia para a Segurança da Aviação regula a IA na aviação, incluindo as operações de drones autónomos. A EASA exige transparência sobre as decisões de deteção e evasão assistidas por IA e as suas limitações. O artigo 13.º acrescenta requisitos de documentação ao nível do sistema sobre as capacidades, a precisão e a robustez da IA que complementam o quadro de transparência operacional da EASA.
ISO 21448 (SOTIF) — Segurança da funcionalidade prevista
A norma ISO 21448 aborda os riscos de segurança decorrentes de insuficiências funcionais nos sistemas autónomos, exigindo a identificação e documentação das condições desencadeadoras e dos modos de falha. Os requisitos de transparência do artigo 13.º para a divulgação das limitações do sistema alinham-se estreitamente com a documentação SOTIF dos cenários inseguros conhecidos e desconhecidos.
Violações comuns detetadas pela Scanara
Documentação dos limites do ODD em falta no resultado do sistema
Código de navegação autónoma que toma decisões de encaminhamento ou de controlo sem referenciar ou expor os limites do domínio de conceção operacional à interface do operador. O artigo 13.º exige que os responsáveis pela implementação compreendam os limites do sistema — a Scanara assinala os módulos de decisão que não expõem os parâmetros do ODD.
Sem divulgação da interação com a IA na interface do passageiro
Interfaces de passageiros de veículos ou drones que apresentam o estado de navegação ou operacional sem revelar que as decisões são orientadas pela IA. O artigo 50.º(1) exige a notificação quando as pessoas singulares interagem com sistemas de IA — os passageiros devem conhecer o nível de autonomia e as capacidades atuais do sistema.
Instruções de utilização sem comportamento em modo degradado
Documentação do sistema que descreve o funcionamento normal sem documentar o comportamento em caso de falha de sensor, condições meteorológicas adversas, perda de conetividade ou outras condições degradadas. O artigo 13.º(3)(b)(i) exige a divulgação das limitações e condições em que o sistema pode apresentar mau funcionamento — fundamental para a segurança dos sistemas autónomos.
Lista de verificação de conformidade com o artigo 13.º para sistemas autónomos
Tornar as decisões da IA interpretáveis para os operadores
Assegure que os operadores de frotas e as autoridades de transporte conseguem compreender a fundamentação das decisões da IA, incluindo as escolhas de navegação, os ajustes de velocidade e as decisões de prevenção de obstáculos. Forneça ferramentas de interpretabilidade em tempo real e a posteriori.
Documentar o domínio de conceção operacional
Forneça documentação detalhada do ODD, incluindo os limites meteorológicos, de tipo de estrada, de intervalo de velocidade, geográficos e temporais. Inclua orientações claras sobre o que acontece quando o sistema se aproxima ou excede os limites do ODD.
Divulgar o comportamento em modo degradado e em casos-limite
Documente o comportamento do sistema em caso de falha de sensor, condições meteorológicas adversas, perda de conetividade e cenários de obstáculos invulgares. Inclua as estratégias de recurso, as condições de risco mínimo e os tempos de transição previstos para os pedidos de tomada de controlo humano.
Notificar os passageiros e outros utentes da via
Informe os passageiros sobre o nível de autonomia do sistema, as capacidades atuais e o que se espera deles. Para outros utentes da via, implemente marcações de identificação dos veículos conforme exigido pela jurisdição.
Divulgar as métricas de segurança e desempenho
Comunique o desempenho do sistema, incluindo a precisão de deteção de objetos, as taxas de falsos positivos/negativos, os tempos de reação e os resultados da validação de segurança em todo o ODD documentado. Inclua o desempenho em condições-limite.
Perguntas frequentes
Recursos relacionados
Artigo 13.º: transparência
Requisitos completos do artigo 13.º em todos os setores.
Sistemas autónomos — Centro setorial
Guia completo de conformidade com a EU AI Act para sistemas autónomos.
Artigo 12.º: conservação de registos para sistemas autónomos
Requisitos de registo e de conservação de registos para a IA autónoma.
Artigo 14.º: supervisão humana dos sistemas autónomos
Obrigações de supervisão humana para os sistemas de IA autónomos.
Como o Scanara ajuda
O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.