Que formato as instruções de uso devem ter?

O regulamento não exige um formato específico. As instruções podem ser PDFs, páginas web, documentação de API ou incorporadas em software. Elas devem ser claras, acessíveis e abrangentes.

O artigo 13 se aplica a modelos de IA de código aberto?

Sim, se o modelo de código aberto for colocado no mercado como um sistema de IA de alto risco. O fornecedor ainda deve fornecer instruções de uso, mesmo que o código seja publicamente disponível.

Como o artigo 13 difere da documentação técnica do artigo 11?

A documentação técnica do artigo 11 é para reguladores e auditores. As instruções do artigo 13 são para responsáveis pela implantação que operam o sistema. As instruções são voltadas para o usuário e operacionais.

E se o responsável pela implantação ignorar as instruções?

A obrigação do fornecedor é fornecer instruções precisas. Se o responsável pela implantação as ignorar, o responsável pela implantação assume responsabilidade sob o artigo 26. Os fornecedores devem registrar a entrega e atualizações das instruções.

Uma ficha de modelo é suficiente como instruções de uso?

Uma ficha de modelo é um bom ponto de partida, mas raramente suficiente. Ela deve ser complementada com dados de contato, orientação operacional, medidas de supervisão humana e procedimentos de manutenção exigidos pelo artigo 13.

Artigo 13 do Regulamento de IA: requisitos de transparência

O que o artigo 13 do Regulamento de IA exige que os fornecedores divulguem nas instruções de utilização: métricas, limitações e supervisão.

Transparência e fornecimento de informações aos responsáveis pela implantação

O artigo 13 exige que sistemas de IA de alto risco sejam suficientemente transparentes para que os responsáveis pela implantação possam interpretar resultados e exercer supervisão humana adequada. Os fornecedores devem fornecer instruções de uso abrangentes.

Instruções de uso obrigatórias

Identidade e dados de contato do fornecedor

Inclua o nome do fornecedor, nome comercial registrado ou marca, endereço postal e e-mail de contato. Os responsáveis pela implantação devem saber quem construiu o sistema.

Características, capacidades e limitações de desempenho

Documente métricas de precisão, limiares de robustez, medidas de cibersegurança e desempenho em grupos demográficos. Inclua todas as limitações conhecidas.

Circunstâncias previsíveis que podem levar a riscos

Descreva situações em que o sistema pode ter desempenho inferior, produzir resultados tendenciosos ou falhar. Cubra casos extremos e cenários fora da distribuição.

Mudanças no sistema predeterminadas pelo fornecedor

Divulgue quaisquer atualizações automáticas, cronogramas de retreinamento ou alterações de configuração que o fornecedor possa aplicar após a implantação.

Medidas de supervisão humana e manutenção

Explique medidas técnicas que permitem supervisão humana conforme artigo 14, tempo de vida esperado do sistema e procedimentos de manutenção ou cuidado necessários.

Etapas de implementação

Gerar instruções a partir de fichas de modelo e folhas de dados

Automatize a geração de instruções de uso extraindo metadados de fichas de modelo, folhas de dados e relatórios de avaliação. Mantenha-as sob controle de versão junto com o código.

Versionar divulgações de limitações e registros de atualização

Rastreie cada limitação conhecida, modo de falha e caso extremo em um registro de alterações estruturado. Atualize as instruções sempre que o sistema mudar.

Documentar desagregações de desempenho demográfico

Meça e publique métricas de precisão, exatidão, recall e equidade segmentadas por atributos protegidos e cenários de casos de uso.

Fornecer medidas técnicas para interpretação de resultados

Inclua pontuações de confiança, recursos de explicabilidade e orientação sobre quando a revisão humana é necessária. Vincule aos procedimentos de supervisão do artigo 14.

Cadeia de transparência fornecedor-responsável pela implantação

O artigo 13 cria uma cadeia de transparência juridicamente vinculativa: fornecedores documentam o comportamento do sistema, responsáveis pela implantação recebem instruções e responsáveis pela implantação as usam para exercer supervisão humana sob o artigo 14. Se as instruções estiverem incompletas, os responsáveis pela implantação não podem cumprir suas próprias obrigações.

Perguntas frequentes

Como o Scanara ajuda

O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.