O artigo 10 se aplica a modelos fundamentais ajustados?

Sim. Se você ajustar um modelo fundamental para um caso de uso de alto risco, deve aplicar práticas de governança de dados aos seus conjuntos de dados de ajuste, mesmo que não tenha treinado o modelo base.

O que conta como dados "suficientemente representativos"?

Os conjuntos de dados devem refletir o contexto operacional e a população-alvo do seu sistema de IA. Isso significa cobrir grupos demográficos relevantes, casos extremos e variações de entrada que seu sistema encontrará em produção.

Preciso usar dados sintéticos?

Não, dados sintéticos não são obrigatórios. No entanto, podem ajudar a preencher lacunas de dados identificadas ou abordar a sub-representação de certos grupos, particularmente quando dados reais são escassos ou levantam preocupações de privacidade.

E se eu usar conjuntos de dados de terceiros?

Você permanece responsável por garantir que conjuntos de dados de terceiros atendam aos requisitos do artigo 10. Documente a proveniência do conjunto de dados, conduza seu próprio exame de viés e avalie se ele é suficientemente representativo para sua finalidade pretendida.

Como o artigo 10 interage com o RGPD?

O artigo 10 complementa o RGPD ao adicionar requisitos de governança de dados específicos para IA. O artigo 10(5) fornece uma exceção limitada para processar categorias especiais de dados para correção de viés, mas você ainda deve cumprir os princípios mais amplos de proteção de dados do RGPD.

Artigo 10 Regulamento de IA: requisitos de dados de treino

O que o artigo 10 do Regulamento de IA exige para dados de treino, validação e teste: qualidade, deteção de enviesamento e documentação.

O artigo 10 do Regulamento de IA da UE exige que os fornecedores de sistemas de IA de alto risco apliquem práticas de governança e gestão de dados aos conjuntos de dados de treino, validação e teste durante todo o ciclo de vida do sistema de IA.

Requisitos de governança de dados

Escolhas de design e coleta de dados

Documente as escolhas de design relevantes para os processos de coleta de dados, incluindo fontes de dados, métodos de coleta e a justificativa para a composição do conjunto de dados.

Processos de coleta de dados

Estabeleça processos claros para a coleta de dados de treino, validação e teste alinhados com a finalidade pretendida do sistema de IA.

Preparação e anotação de dados

Aplique operações apropriadas de preparação de dados, incluindo anotação, rotulagem, limpeza, enriquecimento e agregação para garantir a qualidade do conjunto de dados.

Exame e mitigação de viés

Examine os conjuntos de dados em busca de possíveis vieses que possam afetar a saúde, segurança ou direitos fundamentais, ou levar a discriminação proibida.

Lacunas e completude de dados

Identifique e corrija lacunas ou deficiências nos dados para garantir que os conjuntos de dados sejam relevantes, suficientemente representativos e completos para a finalidade pretendida.

Etapas de implementação

Documentação de conjuntos de dados como código

Mantenha as especificações de conjuntos de dados, métodos de coleta e etapas de preparação em arquivos de configuração versionados ao lado do código do seu sistema de IA.

Testes automatizados de viés e desvio

Integre a detecção automatizada de viés e testes de desvio de dados no seu pipeline de CI/CD para detectar problemas antes da implantação.

Rastreamento de linhagem de dados

Implemente o rastreamento de ponta a ponta de fontes de dados, transformações e versionamento para manter visibilidade total sobre a proveniência do conjunto de dados.

Fichas de conjuntos de dados versionadas

Crie fichas de conjuntos de dados estruturadas documentando composição, metodologia de coleta, limitações conhecidas e resultados do exame de viés para cada versão do conjunto de dados.

Considerações sobre o RGPD

O artigo 10(5) permite o processamento de categorias especiais de dados pessoais estritamente para detectar e corrigir vieses, sujeito a salvaguardas apropriadas, incluindo limitações técnicas, medidas de segurança de última geração e exclusão após a correção do viés ou quando atingido o limite de retenção de dados.

Perguntas frequentes

Como o Scanara ajuda

O Scanara automatiza a conformidade com o Regulamento de IA do código ao dossiê. Ligue os seus repos GitHub e obtenha relatórios de conformidade em minutos.