Artículo 10 reglamento IA: requisitos datos de entrenamiento
Lo que exige el artículo 10 del reglamento IA para datos de entrenamiento, validación y prueba: calidad, detección de sesgos y documentación.
El artículo 10 del Reglamento de IA de la UE exige a los proveedores de sistemas de IA de alto riesgo aplicar prácticas de gobernanza y gestión de datos a los conjuntos de datos de entrenamiento, validación y prueba durante todo el ciclo de vida del sistema de IA.
Requisitos de gobernanza de datos
Decisiones de diseño y recopilación de datos
Documente las decisiones de diseño relevantes para los procesos de recopilación de datos, incluidas las fuentes de datos, los métodos de recopilación y la justificación de la composición del conjunto de datos.
Procesos de recopilación de datos
Establezca procesos claros para recopilar datos de entrenamiento, validación y prueba alineados con el propósito previsto del sistema de IA.
Preparación y anotación de datos
Aplique operaciones apropiadas de preparación de datos, incluidas la anotación, el etiquetado, la limpieza, el enriquecimiento y la agregación para garantizar la calidad del conjunto de datos.
Examen y mitigación de sesgos
Examine los conjuntos de datos en busca de posibles sesgos que puedan afectar la salud, la seguridad o los derechos fundamentales, o conducir a discriminación prohibida.
Lagunas y exhaustividad de datos
Identifique y subsane las lagunas o deficiencias de datos para garantizar que los conjuntos de datos sean relevantes, suficientemente representativos y completos para el propósito previsto.
Pasos de implementación
Documentación de conjuntos de datos como código
Mantenga las especificaciones de conjuntos de datos, los métodos de recopilación y los pasos de preparación en archivos de configuración versionados junto con el código de su sistema de IA.
Pruebas automatizadas de sesgo y deriva
Integre la detección automatizada de sesgos y las pruebas de deriva de datos en su pipeline de CI/CD para detectar problemas antes del despliegue.
Seguimiento del linaje de datos
Implemente un seguimiento de extremo a extremo de fuentes de datos, transformaciones y versionado para mantener visibilidad completa sobre la procedencia del conjunto de datos.
Fichas de conjuntos de datos versionadas
Cree fichas de conjuntos de datos estructuradas que documenten la composición, la metodología de recopilación, las limitaciones conocidas y los resultados del examen de sesgos para cada versión del conjunto de datos.
Consideraciones del RGPD
El artículo 10(5) permite el tratamiento de categorías especiales de datos personales estrictamente para detectar y corregir sesgos, sujeto a salvaguardas apropiadas que incluyen limitaciones técnicas, medidas de seguridad de vanguardia y eliminación una vez corregido el sesgo o alcanzado el límite de retención de datos.
Preguntas frecuentes
Requisitos relacionados
Artículo 9: Sistema de gestión de riesgos
Las prácticas de gobernanza de datos alimentan la gestión continua de riesgos requerida por el artículo 9, particularmente para identificar y mitigar riesgos relacionados con sesgos.
Artículo 11: Documentación técnica
Sus procedimientos de gobernanza de datos, características del conjunto de datos y resultados del examen de sesgos deben documentarse como parte de la documentación técnica requerida por el artículo 11.
Artículo 15: Exactitud y robustez
Los conjuntos de datos de alta calidad y representativos regidos por el artículo 10 son esenciales para lograr los niveles de exactitud, robustez y ciberseguridad requeridos por el artículo 15.
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.