Artículo 14 reglamento IA: supervisión humana y botón de parada
El artículo 14 exige que los sistemas de IA de alto riesgo permitan una supervisión humana efectiva. Esta guía cubre las capacidades necesarias, el botón de parada y los patrones de supervisión habituales.
Los proveedores de sistemas de IA de alto riesgo deben diseñarlos para que personas físicas puedan vigilarlos eficazmente durante su uso (artículo 14).
Quienes ejercen la supervisión deben poder, según proceda y de forma proporcionada, entender el sistema, vigilarlo, descartar sus resultados y detenerlo. Esto afecta a los sistemas introducidos en el mercado o puestos en servicio en la UE. Se aplica desde el 2 de diciembre de 2027 (anexo III) y desde el 2 de agosto de 2028 (anexo I). Las multas pueden alcanzar 15 millones de EUR o el 3 % del volumen de negocios anual mundial, si esta cuantía es superior (artículo 99(4)). Siguiente paso: haga una lista de los controles que su sistema ofrece a esas personas.
Quienes supervisan deben poder entender, vigilar, descartar y detener el sistema
El artículo 14(4) enumera cinco capacidades que el sistema debe permitir, según proceda y de forma proporcionada. El proveedor integra algunas medidas en el sistema e identifica otras que debe aplicar el responsable del despliegue (artículo 14(3)).
Entender y vigilar
Las personas que supervisan pueden entender debidamente las capacidades y limitaciones del sistema y vigilar su funcionamiento, por ejemplo para detectar y resolver anomalías, problemas de funcionamiento y comportamientos inesperados (artículo 14(4), letra a)).
Ser conscientes e interpretar bien
Son conscientes del sesgo de automatización, la tendencia a confiar demasiado en los resultados del sistema, y pueden interpretar correctamente esos resultados (artículo 14(4), letras b) y c)).
Descartar y detener
Pueden decidir no utilizar el sistema o descartar, invalidar o revertir sus resultados. También pueden intervenir en el funcionamiento del sistema o interrumpirlo pulsando un botón de parada o mediante un procedimiento similar que permita que se detenga de forma segura (artículo 14(4), letras d) y e)).
Verificación por dos personas en la identificación biométrica remota
En los sistemas del anexo III, punto 1, letra a), el responsable del despliegue solo puede actuar sobre una identificación si al menos dos personas la han verificado y confirmado por separado (artículo 14(5)). Esas personas necesitan la competencia, formación y autoridad necesarias. El requisito no se aplica a la garantía del cumplimiento del Derecho, la migración, el control fronterizo ni el asilo cuando el Derecho nacional o de la Unión lo considere desproporcionado.
Quienes supervisan deben poder llevar el sistema a una detención segura
El artículo 14(4), letra e), exige un botón de parada o un procedimiento similar que permita a quienes supervisan interrumpir el sistema y detenerlo de forma segura. El Reglamento no prescribe cómo; los tres puntos siguientes son decisiones de diseño.
Parada de emergencia
Ofrezca un control que detenga el sistema de forma segura y compruebe que funciona incluso durante errores del sistema. Un diseño posible: dejar de aceptar solicitudes nuevas y dejar terminar las que están en curso.
Modo de reserva
Decida qué ocurre tras una parada: derivar los casos a revisores humanos, usar valores por defecto basados en reglas o pausar por completo. Documente y pruebe el modo de reserva.
Registro de paradas e intervenciones
Anote cada parada e intervención con la hora, el operador, el motivo y el estado del sistema. Es una decisión de diseño que le da pruebas de cómo funcionó la supervisión.
Las medidas de supervisión deben ajustarse al riesgo, la autonomía y el contexto
El artículo 14(3) exige medidas de supervisión proporcionales a los riesgos, al nivel de autonomía y al contexto de uso del sistema. Los tres patrones siguientes son términos de diseño habituales, no términos del Reglamento.
Humano en el bucle
Una persona aprueba cada decisión antes de que surta efecto. Encaja con decisiones de consecuencias graves.
Humano sobre el bucle
El sistema funciona solo; una persona lo vigila y puede intervenir en cualquier momento.
Humano al mando
Una persona fija los límites y las condiciones de uso y puede descartar cualquier decisión o apagar el sistema.
El artículo 14 solo se aplica a los sistemas de IA de alto riesgo
Un sistema es de alto riesgo si entra en un ámbito del anexo III, salvo que se aplique una exención del artículo 6(3). Un sistema que elabora perfiles de personas físicas es siempre de alto riesgo. También lo es si es un producto del anexo I que requiere evaluación de la conformidad por terceros, o su componente de seguridad (artículo 6). Los proveedores quedan cubiertos cuando introducen un sistema en el mercado de la UE o lo ponen en servicio en la UE, estén donde estén establecidos (artículo 2(1), letra a)). Los proveedores y responsables del despliegue de terceros países también quedan cubiertos cuando los resultados del sistema se utilizan en la UE (artículo 2(1), letra c)). Los sistemas de alto riesgo vinculados a productos regulados por la legislación del anexo I, sección B, quedan fuera de el artículo 14 (artículo 2(2)). Para los productos del anexo I, sección A, algunos requisitos pueden limitarse (artículo 2(13)). Esto afecta a los artículos 9 a 15 y 17 a 25, cuando la legislación sectorial ofrece una protección equivalente o superior. Los actos delegados previstos para el 2 de agosto de 2027 concretarán cuáles. El Reglamento excluye los usos militares, de defensa y de seguridad nacional, y los sistemas desarrollados únicamente para investigación científica (artículo 2(3) y (6)). También excluye la investigación y las pruebas previas a la introducción en el mercado (artículo 2(8)). Los sistemas ya introducidos en el mercado o en servicio antes de la fecha de aplicación solo quedan cubiertos tras cambios significativos de diseño. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)).
Preguntas frecuentes: supervisores, paneles, responsabilidad y multas
¿Quién puede ejercer la supervisión humana?
Una persona física con la competencia, formación y autoridad necesarias, además del apoyo que precise. El responsable del despliegue encomienda la supervisión a esas personas (artículo 26(2)), y el sistema debe permitirles entenderlo, descartar sus resultados y detenerlo (artículo 14(4)).
¿Basta un panel de control?
No. Un panel apoya la vigilancia (artículo 14(4), letra a)), pero quienes supervisan también deben poder descartar o revertir los resultados y detener el sistema (artículo 14(4), letras d) y e)). Añada controles junto al panel.
¿Quién es responsable, el proveedor o el responsable del despliegue?
Ambos. El proveedor identifica las medidas de supervisión antes de introducir el sistema en el mercado o ponerlo en servicio. Las integra cuando es técnicamente viable, las identifica para que las aplique el responsable del despliegue, o hace ambas cosas (artículo 14(3)). El responsable del despliegue encomienda la supervisión a personas competentes y usa el sistema conforme a las instrucciones de uso (artículo 26(1) y (2)).
¿Cuáles son las multas y es menor el límite para las pymes?
Las multas alcanzan hasta 15 millones de EUR o el 3 % del volumen de negocios anual mundial, si esta cuantía es superior (artículo 99(4)). Afectan a los proveedores (artículo 16) y a los responsables del despliegue (artículo 26). Para las pymes, incluidas las empresas emergentes, y las pequeñas empresas de mediana capitalización, el límite es el menor de los dos importes (artículo 99(6) y (6 bis)). Los Estados miembros establecen las normas sobre sanciones (artículo 99(1)).
Lea a continuación: gestión de riesgos, registros y obligaciones del responsable del despliegue
Artículo 9: gestión de riesgos
La supervisión busca prevenir o reducir al mínimo los riesgos para la salud, la seguridad y los derechos fundamentales, en particular cuando persisten pese a los demás requisitos (artículo 14(2)).
Artículo 12: conservación de registros
Los archivos de registro apoyan la vigilancia del sistema; los sistemas de identificación biométrica remota deben registrar quién verificó los resultados.
Artículo 26: obligaciones de los responsables del despliegue
Los responsables del despliegue encomiendan la supervisión a personas competentes y usan el sistema conforme a sus instrucciones de uso.
Scanara prepara pruebas a partir de sus repositorios
Scanara lee sus repositorios de GitHub conectados y ejecuta análisis basados en reglas de patrones habituales de IA y aprendizaje automático. Puede pasar por alto código no estándar. Por separado, genera borradores de documentación a partir de plantillas y de sus respuestas en las evaluaciones, como pruebas para su trabajo de cumplimiento. Usted decide la clasificación.