Artículo 13 para la IA de infraestructuras críticas: transparencia e instrucciones de uso

El artículo 13 impone obligaciones al proveedor respecto al responsable del despliegue. No impone ninguna obligación de publicar información ni de explicar una decisión a una persona afectada.

• art. 13(1)
  Transparencia que permite a los responsables del despliegue interpretar los resultados

  Los sistemas de IA de alto riesgo deben diseñarse y desarrollarse de modo que funcionen con un nivel de transparencia suficiente para que los responsables del despliegue interpreten y usen correctamente sus resultados de salida. Debe garantizarse un tipo y un nivel de transparencia adecuados para que el proveedor y el responsable del despliegue cumplan sus obligaciones previstas en la sección 3.

• art. 13(2)
  Instrucciones de uso

  Los sistemas de alto riesgo deben ir acompañados de instrucciones de uso en un formato digital o de otro tipo adecuado. Deben incluir información concisa, completa, correcta y clara que sea pertinente, accesible y comprensible para los responsables del despliegue.

• art. 13(3)(a), (b)
  Contenido mínimo: proveedor, funcionamiento y límites

  Las instrucciones deben contener al menos la identidad y los datos de contacto del proveedor, y las características, capacidades y limitaciones del funcionamiento del sistema. Esto incluye su finalidad prevista. Incluye el nivel de precisión (con los parámetros para medirla), solidez y ciberseguridad con respecto al cual se haya probado y validado el sistema y que puede esperarse, y las circunstancias conocidas que puedan afectarlo. Incluye las circunstancias conocidas o previsibles que puedan dar lugar a riesgos para la salud, la seguridad o los derechos fundamentales. Cuando proceda o en su caso, incluyen además las capacidades técnicas para explicar los resultados de salida, el funcionamiento con respecto a determinadas personas o colectivos, las especificaciones relativas a los datos de entrada y la información que permita a los responsables del despliegue interpretar los resultados de salida.

• art. 13(3)(c)–(f)
  Cambios, supervisión, recursos y archivos de registro

  Las instrucciones deben indicar además los cambios predeterminados por el proveedor en el momento de la evaluación de la conformidad inicial, en su caso, y las medidas de supervisión humana del artículo 14. Deben indicar los recursos informáticos y de hardware necesarios, la vida útil prevista y las medidas de mantenimiento, incluidas las actualizaciones del software. Cuando proceda, describen los mecanismos que permiten a los responsables del despliegue recabar, almacenar e interpretar correctamente los archivos de registro de conformidad con el artículo 12.

El artículo 13 se aplica solo a los sistemas de IA de alto riesgo. Las filas siguientes muestran cuándo la IA para infraestructuras críticas pasa a ser de alto riesgo.

• Las infraestructuras críticas son un ámbito del anexo III, no un régimen sectorial

  El Reglamento no tiene un régimen sectorial de infraestructuras críticas para proveedores ni para responsables del despliegue. El anexo III, punto 2, es el ámbito de alto riesgo titulado «Infraestructuras críticas». Este sitio usa esas palabras para la IA que entra en el Reglamento por ese punto. El punto 2 abarca los sistemas de IA destinados a ser utilizados como componentes de seguridad en la gestión y el funcionamiento de las infraestructuras digitales críticas, del tráfico rodado o del suministro de agua, gas, calefacción o electricidad. El artículo 3, punto 62, define las «infraestructuras críticas» por remisión al artículo 2, punto 4, de la Directiva (UE) 2022/2557. El Reglamento no define por separado las «infraestructuras digitales críticas». El punto 2 no menciona el transporte ferroviario, aéreo ni marítimo, ni los puertos ni los aeropuertos. Un sistema para alguno de ellos es de alto riesgo solo si otro punto del anexo III o el anexo I lo contempla.

• Solo se contemplan los componentes de seguridad

  Un componente de seguridad es un componente de un producto o de un sistema de IA que cumple una función de seguridad para dicho producto o sistema de IA, o cuyo fallo o defecto de funcionamiento pone en peligro la salud y la seguridad de las personas o los bienes. Un componente cumple una función de seguridad cuando su finalidad prevista es prevenir o mitigar los riesgos para la salud y la seguridad de las personas o los bienes (artículo 3, punto 14). Los sistemas de IA que se utilicen únicamente para aspectos no relacionados con la seguridad en los ámbitos de la asistencia al usuario, la optimización del rendimiento, la eficiencia del servicio, la automatización, la comodidad o el control de calidad no se consideran componentes de seguridad (artículo 6, apartado 1 bis). Los sistemas de IA cuyo fallo o defecto de funcionamiento pueda poner en peligro la salud y la seguridad se consideran componentes de seguridad (artículo 6, apartado 1 ter). El artículo 6, apartado 5, obligaba a la Comisión a proporcionar, a más tardar el 2 de febrero de 2026, directrices con una lista exhaustiva de ejemplos prácticos de casos de uso de alto riesgo y de no alto riesgo. El considerando 55 del texto de 2024 describe los componentes de seguridad de infraestructuras críticas como sistemas utilizados para proteger directamente la integridad física de las infraestructuras críticas o la salud y la seguridad de las personas y los bienes, pero que no son necesarios para que el sistema funcione. Indica que los componentes destinados a utilizarse únicamente con fines de ciberseguridad no deben considerarse componentes de seguridad. Un considerando no es una norma vinculante. Si una herramienta concreta de previsión, optimización o mantenimiento es un componente de seguridad es una cuestión para un jurista.

• El artículo 6, apartado 3, puede excluir un sistema del anexo III

  Un sistema del punto 2 es de alto riesgo con arreglo al artículo 6, apartado 2. Con arreglo al artículo 6, apartado 3, no lo es si no plantea un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales. Eso incluye no influir sustancialmente en el resultado de la toma de decisiones. El Reglamento aplica esta excepción cuando se cumple cualquiera de las condiciones siguientes (artículo 6, apartado 3, letras a) a d)). Que el sistema esté destinado a realizar una tarea de procedimiento limitada. O que esté destinado a mejorar el resultado de una actividad humana previamente realizada. O que esté destinado a detectar patrones de toma de decisiones o desviaciones con respecto a patrones de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana previamente realizada, ni a influir en ella, sin una revisión humana adecuada. O que esté destinado a realizar una tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III. Cómo se combinan estas condiciones con el criterio del riesgo importante es una cuestión para un jurista. El sistema siempre es de alto riesgo si efectúa la elaboración de perfiles de personas físicas. El artículo 4, punto 4, del RGPD define la elaboración de perfiles (artículo 3, punto 52). El proveedor que se acoja a la excepción documenta su evaluación antes de introducir el sistema en el mercado o ponerlo en servicio. También debe registrar el sistema (artículo 6, apartado 4, artículo 49, apartado 2).

• Los productos del anexo I son una vía distinta

  Un sistema de IA también puede ser de alto riesgo con arreglo al artículo 6, apartado 1. Para ello debe ser un componente de seguridad de un producto, o un producto, cubierto por la legislación de armonización de la Unión enumerada en el anexo I, cuando el producto deba someterse a una evaluación de la conformidad por un tercero. La sección A del anexo I enumera, por ejemplo, los equipos a presión (punto 7) y los aparatos que queman combustibles gaseosos (punto 10). Los requisitos para estos sistemas se aplican desde el 2 de agosto de 2028 (artículo 113, letra c), inciso ii)). La sección B enumera, por ejemplo, el sistema ferroviario (punto 17, Directiva (UE) 2016/797). Para los sistemas de alto riesgo relacionados con productos de la sección B, solo se aplican el artículo 6, apartado 1, el artículo 60 bis y los artículos 102 a 112. Los artículos 57, 58 y 59 se aplican únicamente en la medida en que los requisitos para los sistemas de IA de alto riesgo se hayan integrado en esa legislación (artículo 2, apartado 2). Los artículos 9 a 15 no figuran entre las disposiciones aplicables.

• Proveedor y responsable del despliegue

  El proveedor desarrolla un sistema de IA, o lo manda desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). La puesta en servicio incluye el suministro para uso propio del proveedor (artículo 3, punto 11). Una empresa de suministro, un municipio o una autoridad de carreteras que desarrolla un sistema y lo pone en servicio bajo su propio nombre es, por tanto, proveedor. Quien utiliza un sistema bajo su autoridad es un responsable del despliegue (artículo 3, punto 4). El responsable del despliegue pasa a ser proveedor en tres casos. Pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, sin perjuicio de los acuerdos contractuales que estipulen que las obligaciones se asignan de otro modo. Realiza una modificación sustancial de ese sistema que lo deja como de alto riesgo. O cambia la finalidad prevista de un sistema que no era de alto riesgo de modo que pase a serlo (artículo 25, apartado 1). El proveedor que inicialmente introdujo el sistema en el mercado o lo puso en servicio deja entonces de ser considerado proveedor de ese sistema específico y debe cooperar estrechamente con el nuevo proveedor (artículo 25, apartado 2). Esto no se aplica si el proveedor inicial indicó claramente que su sistema no debe ser transformado en un sistema de alto riesgo.

• El artículo 86 no abarca el punto 2

  El artículo 86, apartado 1, confiere a la persona afectada un derecho a explicación de una decisión adoptada por el responsable del despliegue basándose en los resultados de salida de un sistema de IA de alto riesgo del anexo III, «con excepción de los sistemas enumerados en el punto 2». Un responsable del despliegue de un sistema del punto 2 no está, por tanto, sujeto a él. Los responsables del despliegue de sistemas de IA de alto riesgo mencionados en el anexo III que tomen decisiones o ayuden a tomar decisiones relacionadas con personas físicas deben informarles de que están expuestas a la utilización del sistema (artículo 26, apartado 11).

• Fechas

  Los requisitos para estos usos del anexo III se aplican desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)). Un sistema introducido en el mercado o puesto en servicio antes de esa fecha solo queda cubierto si después sufre cambios significativos en su diseño. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111, apartado 2). Los artículos 43 y 49 (capítulo III, sección 5) y los artículos 72 y 73 (capítulo IX) quedan fuera del artículo 113, letra c). El artículo 113 no fija una fecha propia para ellos, por lo que, según su regla general, se aplican desde el 2 de agosto de 2026. Cómo encaja esto con la fecha anterior es una cuestión para un jurista.

• Multas

  Los proveedores deben velar por que sus sistemas de alto riesgo cumplan los requisitos de la sección 2 del capítulo III, que incluye los artículos 9 a 15 (artículo 16, letra a)). El incumplimiento de las obligaciones de los proveedores del artículo 16 o de las de los responsables del despliegue del artículo 26 puede sancionarse con multa. La multa es de hasta 15 millones de EUR o, si el infractor es una empresa, de hasta el 3 % de su volumen de negocios mundial total del ejercicio anterior, si esta cuantía es superior (artículo 99, apartado 4, letras a) y e)). Para las pymes, incluidas las empresas emergentes, cada multa tiene como límite la cuantía menor de las dos (artículo 99, apartado 6). Lo mismo rige para las pequeñas empresas de mediana capitalización (artículo 3, punto 14 ter, artículo 99, apartado 6 bis). Cada Estado miembro establece normas que determinan en qué medida es posible imponer multas administrativas a autoridades y organismos públicos establecidos en dicho Estado miembro (artículo 99, apartado 8).

• Alcance y límites del Reglamento

  El Reglamento se aplica a los proveedores y responsables del despliegue establecidos o ubicados en un tercer país cuando los resultados de salida generados por el sistema de IA se utilicen en la Unión (artículo 2, apartado 1, letra c)). No se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión y no afecta a las competencias de los Estados miembros en materia de seguridad nacional (artículo 2, apartado 3). No se aplica a los sistemas de IA cuando y en la medida en que se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificaciones, exclusivamente con fines militares, de defensa o de seguridad nacional (artículo 2, apartado 3). No se aplica a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2, apartado 10). El Reglamento no se aplica a los sistemas o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la investigación y el desarrollo científicos como única finalidad (artículo 2, apartado 6). Tampoco se aplica a la actividad de investigación, prueba o desarrollo anterior a la introducción de un sistema en el mercado o su puesta en servicio. Las pruebas en condiciones reales no están cubiertas por esa exclusión (artículo 2, apartado 8). Los sistemas de IA publicados con arreglo a licencias libres y de código abierto quedan fuera del Reglamento. Esa exclusión no se aplica si se introducen en el mercado o se ponen en servicio como sistemas de IA de alto riesgo, o si entran en el ámbito de aplicación del artículo 5 o del artículo 50 (artículo 2, apartado 12).

• Sin formato para las instrucciones de uso en las infraestructuras

  El Reglamento no fija formato, plantilla ni redacción para las instrucciones de uso de los componentes de seguridad de infraestructuras. El proveedor decide cómo presentar los elementos que exige el artículo 13, apartado 3. El Reglamento no menciona por sí mismo ninguna norma armonizada. Se presume que los sistemas de alto riesgo conformes con normas armonizadas publicadas en el Diario Oficial son conformes con los requisitos de la sección 2, en la medida en que esas normas los contemplen (artículo 40, apartado 1). La Comisión elaborará directrices sobre la aplicación práctica de los requisitos y obligaciones de los artículos 8 a 15, 25 y 26 (artículo 96, apartado 1, letra a)).

• Ejemplo: condiciones de funcionamiento en las instrucciones de uso

  Ejemplo, no exigido por el Reglamento: las instrucciones de uso de un componente de seguridad podrían indicar las condiciones de funcionamiento en las que se midió su precisión y aquellas en las que no debería confiarse en su resultado. El artículo 13, apartado 3, letra b), incisos ii) y iii), exigen el nivel de precisión probado y las circunstancias que puedan afectarlo o dar lugar a riesgos.

• Ejemplo: describir el procedimiento de parada

  Ejemplo, no exigido por el Reglamento: las instrucciones de uso podrían describir el procedimiento de parada y el estado que alcanza el sistema al detenerse. El artículo 13, apartado 3, letra d), exige las medidas de supervisión humana del artículo 14.

• Artículo 13 reglamento IA: transparencia e instrucciones de uso

  El artículo 13 para todos los sectores: requisitos, fechas y multas.

• Reglamento IA infraestructura crítica: cumplimiento

  Panorama de las infraestructuras críticas: cómo alcanza el Reglamento a la IA de componentes de seguridad.

• Artículo 14 para la IA de infraestructuras críticas: supervisión humana

  IA de infraestructuras críticas y artículo 14: supervisión por personas físicas y lo que el Reglamento no exige.

• Anexo III en detalle: las 8 categorías de alto riesgo

  Las categorías del anexo III, incluido el punto 2 sobre infraestructuras críticas.