Artículo 13: transparencia en sistemas autónomos
Transparencia del artículo 13 del Reglamento de IA en sistemas autónomos: dominio de diseño operativo, aviso a pasajeros e instrucciones a operadores de flotas.
El artículo 13 de la EU AI Act exige que los sistemas de IA de alto riesgo sean lo suficientemente transparentes para que los responsables del despliegue puedan interpretar los resultados y utilizarlos de forma adecuada. Para los sistemas autónomos — vehículos autónomos, drones y maquinaria autónoma — la transparencia determina si los operadores humanos pueden supervisar, intervenir y confiar de forma segura en las decisiones impulsadas por la IA en entornos críticos para la seguridad. Con arreglo al Anexo III, sección 2(a), los sistemas de IA destinados a ser componentes de seguridad en la gestión del tráfico rodado y el funcionamiento de vehículos autónomos se clasifican como de alto riesgo.
Esta página explica cómo se aplican los requisitos de transparencia del artículo 13 específicamente a los sistemas autónomos — desde vehículos autónomos hasta drones industriales — incluida la divulgación del dominio operativo, las instrucciones para los operadores de flotas, la notificación a los pasajeros y las infracciones a nivel de código que Scanara detecta en el software de sistemas autónomos.
¿Qué sistemas de IA autónomos deben ser transparentes?
Vehículos autónomos (SAE L3-L5)
Los vehículos autónomos deben divulgar los límites de su dominio de diseño operativo (ODD) a los pasajeros y a los operadores de flotas. Los pasajeros deben conocer las capacidades y limitaciones del sistema — incluido cuándo la IA puede solicitar la toma de control humano y el tiempo de transición previsto.
Drones autónomos y UAV
Los sistemas de detección y evitación (DAA) asistidos por IA y la planificación de vuelo autónoma deben ofrecer a los operadores explicaciones transparentes de las decisiones de navegación, en particular cuando la IA anula las rutas planificadas o activa procedimientos de emergencia. La EASA exige transparencia sobre las limitaciones de los sistemas DAA asistidos por IA.
Maquinaria industrial autónoma
Los robots de almacén, la maquinaria agrícola y los sistemas de fabricación controlados por IA deben proporcionar a los operadores información clara sobre la lógica de decisión del sistema, sus límites de seguridad y las condiciones en las que la IA puede comportarse de forma impredecible o requerir intervención humana.
Sistemas marítimos y ferroviarios autónomos
Los sistemas de navegación por IA para buques autónomos y operaciones ferroviarias deben ser transparentes sobre las decisiones de enrutamiento, la lógica de evitación de colisiones y los límites operativos. Las autoridades de transporte deben recibir información suficiente para evaluar la idoneidad de la IA para su despliegue en contextos operativos específicos.
Principales obligaciones de transparencia para los sistemas autónomos
El artículo 13 exige instrucciones de uso que permitan a los responsables del despliegue interpretar los resultados de la IA de forma adecuada. Para los sistemas autónomos, esto significa que los operadores de flotas y las autoridades de transporte deben comprender los límites operativos de la IA, la justificación de sus decisiones y su comportamiento en casos límite — una transparencia que afecta directamente a la seguridad física.
El dominio de diseño operativo debe divulgarse
Las instrucciones de uso deben definir claramente el ODD — las condiciones específicas en las que el sistema autónomo está diseñado para funcionar de forma segura. Esto incluye las condiciones meteorológicas, los tipos de vía, los rangos de velocidad, los límites geográficos y las restricciones según la hora del día. Operar fuera del ODD documentado sin divulgación infringe el artículo 13.
Los responsables del despliegue deben comprender los puntos de intervención
El artículo 13(1) exige que los responsables del despliegue interpreten los resultados de forma adecuada. Para los sistemas autónomos, esto significa que los operadores de flotas deben comprender cuándo y cómo intervenir — incluidos los tiempos de las solicitudes de toma de control, los comportamientos de reserva y la respuesta prevista del sistema cuando funciona en el límite de sus capacidades.
Los pasajeros deben conocer las capacidades del sistema
Los pasajeros de los vehículos autónomos deben ser informados de las capacidades operativas y las limitaciones del sistema. Esto incluye el nivel de autonomía actual, lo que la IA puede y no puede gestionar, y lo que se espera del conductor humano (si lo hay). Las marcas de identificación de los vehículos pueden variar según la jurisdicción.
El comportamiento en casos límite debe documentarse
La documentación técnica debe explicar el comportamiento del sistema en condiciones degradadas: fallos de sensores, condiciones meteorológicas adversas, obstáculos inusuales y pérdida de conectividad de red. El artículo 13(3)(b)(i) exige la divulgación de las limitaciones y condiciones en las que el sistema puede funcionar mal — para los sistemas autónomos, se trata de divulgaciones críticas para la seguridad.
Solapamientos normativos
La transparencia de los sistemas autónomos se cruza con los marcos de homologación de tipo, las normativas de aviación y las normas de seguridad. El artículo 13 debe coordinarse con los requisitos de transparencia y documentación sectoriales existentes.
Reglamento marco de homologación de tipo (TAFR)
El Reglamento marco de homologación de tipo de la UE exige documentación técnica detallada para la certificación de vehículos autónomos, incluidos el dominio de diseño operativo, los datos de validación de seguridad y el diseño de la interfaz persona-máquina. Los requisitos del artículo 13 de la AI Act sobre las instrucciones de uso deben alinearse con la documentación del TAFR para evitar divulgaciones contradictorias o duplicadas.
Reglamento General de Seguridad (GSR)
El GSR impone sistemas avanzados de asistencia a la conducción y establece requisitos para su transparencia hacia los conductores. Los registradores de datos de eventos, la detección de somnolencia del conductor y la asistencia inteligente de velocidad requieren todos ellos la notificación al conductor. El artículo 13 amplía estos requisitos de transparencia al nivel del sistema de IA, exigiendo la documentación de las capacidades, limitaciones y rendimiento.
Reglamentos de operaciones aéreas de la EASA
La Agencia de la Unión Europea para la Seguridad Aérea regula la IA en la aviación, incluidas las operaciones de drones autónomos. La EASA exige transparencia sobre las decisiones de detección y evitación asistidas por IA y sus limitaciones. El artículo 13 añade requisitos de documentación a nivel de sistema sobre las capacidades, precisión y robustez de la IA que complementan el marco de transparencia operativa de la EASA.
ISO 21448 (SOTIF) — Seguridad de la funcionalidad prevista
La norma ISO 21448 aborda los riesgos de seguridad derivados de insuficiencias funcionales en los sistemas autónomos, exigiendo la identificación y documentación de las condiciones desencadenantes y los modos de fallo. Los requisitos de transparencia del artículo 13 para divulgar las limitaciones del sistema se alinean estrechamente con la documentación SOTIF de los escenarios inseguros conocidos y desconocidos.
Infracciones habituales que Scanara detecta
Falta de documentación de los límites del ODD en el resultado del sistema
Código de navegación autónoma que toma decisiones de enrutamiento o control sin referenciar ni exponer los límites del dominio de diseño operativo a la interfaz del operador. El artículo 13 exige que los responsables del despliegue comprendan los límites del sistema — Scanara marca los módulos de decisión que carecen de exposición de los parámetros del ODD.
Sin divulgación de la interacción con la IA en la interfaz del pasajero
Interfaces de pasajeros de vehículos o drones que muestran el estado de navegación u operativo sin revelar que las decisiones están impulsadas por la IA. El artículo 50(1) exige la notificación cuando las personas físicas interactúan con sistemas de IA — los pasajeros deben conocer el nivel de autonomía y las capacidades actuales del sistema.
Instrucciones de uso sin comportamiento en modo degradado
Documentación del sistema que describe el funcionamiento normal sin documentar el comportamiento ante fallos de sensores, condiciones meteorológicas adversas, pérdida de conectividad u otras condiciones degradadas. El artículo 13(3)(b)(i) exige la divulgación de las limitaciones y condiciones en las que el sistema puede funcionar mal — fundamental para la seguridad de los sistemas autónomos.
Lista de verificación de cumplimiento del artículo 13 para sistemas autónomos
Hacer que las decisiones de la IA sean interpretables para los operadores
Asegúrese de que los operadores de flotas y las autoridades de transporte puedan comprender la justificación de las decisiones de la IA, incluidas las decisiones de navegación, los ajustes de velocidad y las decisiones de evitación de obstáculos. Proporcione herramientas de interpretabilidad en tiempo real y a posteriori.
Documentar el dominio de diseño operativo
Proporcione documentación detallada del ODD, incluidos los límites meteorológicos, de tipo de vía, de rango de velocidad, geográficos y temporales. Incluya orientaciones claras sobre lo que ocurre cuando el sistema se aproxima o supera los límites del ODD.
Divulgar el comportamiento en modo degradado y en casos límite
Documente el comportamiento del sistema ante fallos de sensores, condiciones meteorológicas adversas, pérdida de conectividad y escenarios de obstáculos inusuales. Incluya las estrategias de reserva, las condiciones de riesgo mínimo y los tiempos de transición previstos para las solicitudes de toma de control humano.
Notificar a los pasajeros y a otros usuarios de la vía
Informe a los pasajeros del nivel de autonomía del sistema, sus capacidades actuales y lo que se espera de ellos. Para otros usuarios de la vía, implemente marcas de identificación de vehículos según lo exija la jurisdicción.
Divulgar las métricas de seguridad y rendimiento
Informe del rendimiento del sistema, incluida la precisión de detección de objetos, las tasas de falsos positivos/negativos, los tiempos de reacción y los resultados de validación de seguridad en todo el ODD documentado. Incluya el rendimiento en condiciones límite.
Preguntas frecuentes
Recursos relacionados
Artículo 13: transparencia
Requisitos completos del artículo 13 en todos los sectores.
Sistemas autónomos — Centro sectorial
Guía completa de cumplimiento de la EU AI Act para sistemas autónomos.
Artículo 12: conservación de registros para sistemas autónomos
Requisitos de registro y conservación de registros para la IA autónoma.
Artículo 14: supervisión humana de los sistemas autónomos
Obligaciones de supervisión humana para los sistemas de IA autónomos.
Cómo ayuda Scanara
Scanara automatiza el cumplimiento de la Ley de IA de la UE del código al dossier. Conecte sus repos de GitHub y obtenga informes de cumplimiento en minutos.