Artículo 13 reglamento IA: requisitos de transparencia
Lo que el artículo 13 del reglamento IA exige revelar en las instrucciones de uso: métricas de rendimiento, límites y supervisión humana.
Transparencia y provisión de información a los implementadores
El artículo 13 requiere que los sistemas de IA de alto riesgo sean suficientemente transparentes para que los implementadores puedan interpretar las salidas y ejercer una supervisión humana adecuada. Los proveedores deben suministrar instrucciones de uso completas.
Instrucciones de uso requeridas
Identidad y datos de contacto del proveedor
Incluya el nombre del proveedor, el nombre comercial registrado o la marca comercial, la dirección postal y el correo electrónico de contacto. Los implementadores deben saber quién construyó el sistema.
Características, capacidades y limitaciones de rendimiento
Documente métricas de precisión, umbrales de robustez, medidas de ciberseguridad y rendimiento en grupos demográficos. Incluya todas las limitaciones conocidas.
Circunstancias previsibles que pueden conducir a riesgos
Describa situaciones donde el sistema pueda tener un rendimiento inferior, producir salidas sesgadas o fallar. Cubra casos extremos y escenarios fuera de distribución.
Cambios en el sistema predeterminados por el proveedor
Divulgue cualquier actualización automática, calendario de reentrenamiento o cambio de configuración que el proveedor pueda aplicar después de la implementación.
Medidas de supervisión humana y mantenimiento
Explique las medidas técnicas que permiten la supervisión humana según el artículo 14, la vida útil esperada del sistema y los procedimientos de mantenimiento o cuidado requeridos.
Pasos de implementación
Generar instrucciones a partir de tarjetas de modelo y hojas de datos
Automatice la generación de instrucciones de uso extrayendo metadatos de tarjetas de modelo, hojas de datos e informes de evaluación. Manténgalas bajo control de versiones junto con el código.
Versionar divulgaciones de limitaciones y registros de actualización
Rastree cada limitación conocida, modo de fallo y caso extremo en un registro de cambios estructurado. Actualice las instrucciones cada vez que cambie el sistema.
Documentar desgloses de rendimiento demográfico
Mida y publique métricas de precisión, precisión, recuperación y equidad segmentadas por atributos protegidos y escenarios de casos de uso.
Proporcionar medidas técnicas para la interpretación de salidas
Incluya puntuaciones de confianza, características de explicabilidad y orientación sobre cuándo se requiere revisión humana. Enlace a los procedimientos de supervisión del artículo 14.
Cadena de transparencia proveedor-implementador
El artículo 13 crea una cadena de transparencia legalmente vinculante: los proveedores documentan el comportamiento del sistema, los implementadores reciben instrucciones y los implementadores las utilizan para ejercer la supervisión humana según el artículo 14. Si las instrucciones están incompletas, los implementadores no pueden cumplir con sus propias obligaciones.
Preguntas frecuentes
Artículos relacionados
Artículo 11: Documentación técnica
Los proveedores deben mantener documentación técnica detallada que demuestre el cumplimiento de los requisitos del Capítulo III. Esta documentación respalda auditorías regulatorias y evaluaciones de conformidad.
Artículo 14: Supervisión humana
Los sistemas de IA de alto riesgo deben diseñarse para una supervisión humana efectiva. Las instrucciones del artículo 13 permiten a los implementadores implementar las medidas de supervisión descritas en el artículo 14.
Artículo 26: Obligaciones de los implementadores de sistemas de IA de alto riesgo
Los implementadores deben seguir las instrucciones de uso del proveedor, monitorear la operación del sistema e informar incidentes graves. La transparencia del artículo 13 es la base del cumplimiento del implementador.
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.