Reglamento IA sistemas autónomos: cumplimiento

El Reglamento no tiene una categoría de sistemas autónomos. Este sitio usa esas palabras para la IA que llega al Reglamento por las vías siguientes.

• Los sistemas autónomos no son una categoría del Reglamento

  El Reglamento no contiene ninguna categoría de sistemas autónomos. Su definición de sistema de IA habla de «distintos niveles de autonomía» (artículo 3, punto 1), y el artículo 14, apartado 3, de un «nivel de autonomía». El Reglamento no menciona ningún vehículo autónomo, dron ni robot. Este sitio utiliza «sistemas autónomos» para la IA en vehículos, aeronaves no tripuladas, robots y máquinas. Las normas aplicables dependen de la legislación de la Unión sobre productos que cubra el producto. Las filas siguientes presentan tres vías por las que un sistema de IA puede ser de alto riesgo: a través de la sección B del anexo I, a través de la sección A del anexo I y a través del anexo III, punto 2. También pueden aplicarse otras disposiciones, por ejemplo el artículo 4 (alfabetización en IA), el artículo 5 (prácticas prohibidas), el artículo 50 (transparencia), el artículo 53 (modelos de IA de uso general) y los demás puntos del anexo III.

• Productos de la sección B: vehículos, aeronaves no tripuladas, ferrocarril, equipos marinos, máquinas

  La sección B del anexo I enumera, por ejemplo, los vehículos de motor (Reglamentos (UE) 2018/858 y (UE) 2019/2144, puntos 18 y 19), los vehículos de dos o tres ruedas y los cuatriciclos (punto 14), los vehículos agrícolas o forestales (punto 15), el sistema ferroviario (punto 17), los equipos marinos (punto 16), las aeronaves no tripuladas y sus motores, hélices, componentes y equipos para controlarlas a distancia con arreglo al Reglamento (UE) 2018/1139 (punto 20) y las máquinas (Reglamento (UE) 2023/1230, punto 21). El Reglamento (UE) 2026/1744 trasladó las máquinas de la sección A a la sección B. A los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 1 y relativos a tales productos solo se les aplican el artículo 6, apartado 1, el artículo 60 bis y los artículos 102 a 112. Los artículos 57, 58 y 59 se aplican únicamente en la medida en que los requisitos para los sistemas de IA de alto riesgo se hayan integrado en dicha legislación de armonización de la Unión (artículo 2, apartado 2). Los artículos 9 a 15, 17, 26 y 99 no figuran entre las disposiciones aplicables. El artículo 2, apartado 2, se limita a los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 1; no restringe, por ejemplo, el artículo 4 ni el artículo 5. La página general sobre sistemas autónomos enumera lo que alcanza a estos productos en su lugar.

• Qué alcanza en su lugar a los productos de la sección B

  Los artículos 102 a 109 modifican la legislación de la sección B, distinta del Reglamento de Máquinas. Cuando se adopten actos delegados, actos de ejecución o medidas detalladas con arreglo a ella en relación con sistemas de IA que sean componentes de seguridad, «los requisitos establecidos en el capítulo III, sección 2» del Reglamento «se tendrán en cuenta». Son ejemplos el artículo 107 para el Reglamento (UE) 2018/858 y el artículo 109 para el Reglamento (UE) 2019/2144. Estos artículos se aplican desde el 27 de julio de 2026 (artículo 113, letra d)). El Reglamento (UE) 2026/1744 añade una regla similar al Reglamento (UE) 2018/1139 (su artículo 2). Para las máquinas exige que la Comisión adopte, con arreglo al Reglamento (UE) 2023/1230, actos delegados que reflejen el capítulo III, sección 2, y los artículos 17, 19, 72 y 73 del Reglamento para los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 1. Esos actos delegados deben aplicarse a más tardar el 2 de agosto de 2028 (su artículo 3). Los Estados miembros podrán permitir pruebas en condiciones reales de tales sistemas fuera de los espacios controlados de pruebas para la IA, para evaluar la conformidad con los artículos 8 a 15 (artículo 60 bis). El artículo 113 no indica una fecha distinta para el artículo 60 bis. Con arreglo a la regla general del artículo 113, se aplicaría desde el 2 de agosto de 2026; si se aplica otra fecha es una cuestión para un asesor jurídico.

• Productos de la sección A: el capítulo III se aplica a los sistemas de alto riesgo

  La sección A del anexo I (puntos 2 a 12) abarca los juguetes, las embarcaciones de recreo, los ascensores, los equipos para uso en atmósferas potencialmente explosivas, los equipos radioeléctricos, los equipos a presión, las instalaciones de transporte por cable, los equipos de protección individual, los aparatos que queman combustibles gaseosos, los productos sanitarios y los productos sanitarios para diagnóstico in vitro. Un sistema de IA es de alto riesgo con arreglo al artículo 6, apartado 1 cuando está destinado a ser utilizado como componente de seguridad de uno de esos productos, o es él mismo uno de esos productos, y el producto debe someterse a una evaluación de la conformidad por un tercero con arreglo a dicha legislación. Se considerará que no cumplen esa condición los productos que deban someterse a una evaluación de la conformidad de terceros únicamente debido a riesgos distintos de los riesgos para la salud y la seguridad, en particular los riesgos relacionados con la distribución del espectro radioeléctrico o las interferencias electromagnéticas que no afecten a la salud y la seguridad (artículo 6, apartado 1 quater). Los requisitos para estos sistemas se aplican desde el 2 de agosto de 2028 (artículo 113, letra c), inciso ii)). El artículo 2, apartado 13, permite limitar la aplicación de requisitos específicos de los artículos 9 a 15 y 17 a 25 cuando y en la medida en que la legislación de la sección A establezca requisitos que proporcionen un nivel de protección equivalente o superior y la limitación no reduzca el nivel global de protección. La Comisión adoptará actos delegados al respecto a más tardar el 2 de agosto de 2027.

• Anexo III, punto 2: tráfico rodado, suministro de servicios básicos e infraestructura digital

  El anexo III, punto 2, abarca los sistemas de IA destinados a ser utilizados como componentes de seguridad en la gestión y el funcionamiento de las infraestructuras digitales críticas, del tráfico rodado o del suministro de agua, gas, calefacción o electricidad. El texto del anexo III no menciona ningún vehículo, aeronave, dron ni robot. Si un sistema concreto es un componente de seguridad en uno de estos ámbitos es una cuestión para un jurista. Los requisitos para estos usos del anexo III se aplican desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)).

• El artículo 6, apartado 3, puede excluir un sistema del anexo III

  Un sistema del punto 2 es de alto riesgo con arreglo al artículo 6, apartado 2. Con arreglo al artículo 6, apartado 3, no lo es si no plantea un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales. Eso incluye no influir sustancialmente en el resultado de la toma de decisiones. El Reglamento aplica esta excepción cuando se cumple cualquiera de las condiciones siguientes (artículo 6, apartado 3, letras a) a d)). Que el sistema esté destinado a realizar una tarea de procedimiento limitada. O que esté destinado a mejorar el resultado de una actividad humana previamente realizada. O que esté destinado a detectar patrones de toma de decisiones o desviaciones con respecto a patrones de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana previamente realizada, ni a influir en ella, sin una revisión humana adecuada. O que esté destinado a realizar una tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III. Cómo se combinan estas condiciones con el criterio del riesgo importante es una cuestión para un jurista. El sistema siempre es de alto riesgo si efectúa la elaboración de perfiles de personas físicas. El artículo 4, punto 4, del RGPD define la elaboración de perfiles (artículo 3, punto 52). El proveedor que se acoja a la excepción documenta su evaluación antes de introducir el sistema en el mercado o ponerlo en servicio. También debe registrar el sistema (artículo 6, apartado 4, artículo 49, apartado 2).

• Solo se contemplan los componentes de seguridad

  Un componente de seguridad es un componente de un producto o de un sistema de IA que cumple una función de seguridad para dicho producto o sistema de IA, o cuyo fallo o defecto de funcionamiento pone en peligro la salud y la seguridad de las personas o los bienes. Un componente cumple una función de seguridad cuando su finalidad prevista es prevenir o mitigar los riesgos para la salud y la seguridad de las personas o los bienes (artículo 3, punto 14). Los sistemas de IA que se utilicen únicamente para aspectos no relacionados con la seguridad en los ámbitos de la asistencia al usuario, la optimización del rendimiento, la eficiencia del servicio, la automatización, la comodidad o el control de calidad no se consideran componentes de seguridad (artículo 6, apartado 1 bis). Los sistemas de IA cuyo fallo o defecto de funcionamiento pueda poner en peligro la salud y la seguridad se consideran componentes de seguridad (artículo 6, apartado 1 ter). Si una función concreta de control, navegación o comodidad es un componente de seguridad es una cuestión para un jurista.

El proveedor desarrolla un sistema de IA, o lo manda desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). La puesta en servicio incluye el suministro para uso propio del proveedor (artículo 3, punto 11). En el caso de un componente de seguridad de un producto de la sección A, el fabricante del producto es el proveedor cuando el sistema se introduce en el mercado junto con el producto bajo el nombre o la marca del fabricante, o se pone en servicio bajo ese nombre o marca después de que el producto se haya introducido en el mercado (artículo 25, apartado 3). Un operador de flota, un operador de planta o una autoridad de carreteras que utiliza un sistema bajo su autoridad es un responsable del despliegue (artículo 3, punto 4). El responsable del despliegue pasa a ser proveedor en tres casos. Pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, sin perjuicio de los acuerdos contractuales que estipulen que las obligaciones se asignan de otro modo. Realiza una modificación sustancial de ese sistema que lo deja como de alto riesgo. O cambia la finalidad prevista de un sistema que no era de alto riesgo de modo que pase a serlo (artículo 25, apartado 1). El proveedor que inicialmente introdujo el sistema en el mercado o lo puso en servicio deja entonces de ser considerado proveedor de ese sistema específico y debe cooperar estrechamente con el nuevo proveedor (artículo 25, apartado 2). Esto no se aplica si el proveedor inicial indicó claramente que su sistema no debe ser transformado en un sistema de alto riesgo.

Para los sistemas de alto riesgo del anexo I, sección A, y del anexo III, punto 2, los proveedores deben velar por que sus sistemas cumplan los requisitos de la sección 2 del capítulo III, artículos 8 a 15 (artículo 16, letra a)), y cumplir las demás obligaciones del artículo 16. Para los productos de la sección B no se aplican (artículo 2, apartado 2).

• art. 9
  Sistema de gestión de riesgos

  Un proceso iterativo continuo durante el ciclo de vida, con pruebas basadas en parámetros y umbrales de probabilidades previamente definidos y adecuados para la finalidad prevista.

• art. 10
  Datos y gobernanza de datos

  Conjuntos de datos de entrenamiento, validación y prueba que cumplan los criterios de calidad del artículo 10, incluido un examen atendiendo a posibles sesgos.

• art. 12
  Registro por diseño

  El sistema debe permitir técnicamente el registro automático de acontecimientos (archivos de registro) a lo largo de su ciclo de vida.

• art. 13
  Instrucciones de uso

  Información que permita a los responsables del despliegue interpretar los resultados de salida y utilizarlos adecuadamente, incluidos el nivel de precisión declarado y sus parámetros.

• art. 14
  Supervisión humana por diseño

  Medidas que permitan a personas físicas vigilar el sistema de manera efectiva mientras está en uso.

• art. 15
  Precisión, solidez y ciberseguridad

  Un nivel adecuado, alcanzado de manera uniforme durante todo el ciclo de vida. Los niveles de precisión y los parámetros pertinentes para medirla se declaran en las instrucciones de uso.

• art. 17
  Sistema de gestión de la calidad

  Políticas, procedimientos e instrucciones escritos que cubren los aspectos enumerados en el artículo 17, apartado 1, aplicados de forma proporcional al tamaño de la organización del proveedor (artículo 17, apartado 2).

• art. 43(2), (3)
  Evaluación de la conformidad

  Para los productos de la sección A, el proveedor sigue el procedimiento de evaluación de la conformidad exigido por la legislación de armonización de la Unión pertinente. Los requisitos de la sección 2 forman parte de esa evaluación, y también se evalúa el sistema de gestión de la calidad del artículo 17 (artículo 43, apartado 3). Los organismos notificados con arreglo a la legislación de la sección A deben solicitar su designación con arreglo al Reglamento de IA a más tardar el 28 de enero de 2028 (artículo 43, apartado 3). Para los sistemas de los puntos 2 a 8 del anexo III, entre los que figura el punto 2, el proveedor sigue el procedimiento fundamentado en un control interno (anexo VI), que no prevé la intervención de un organismo notificado (artículo 43, apartado 2).

• art. 16, 49(1), (5)
  Declaración UE de conformidad, marcado CE y registro

  El proveedor elabora una declaración UE de conformidad y coloca el marcado CE (artículo 16, letras g) y h)). El artículo 49, apartado 1, exige el registro en la base de datos de la UE para los sistemas del anexo III, con excepción del punto 2. El artículo 49, apartado 5, dispone que los sistemas a que se refiere el anexo III, punto 2, se registran a nivel nacional.

• art. 72, 73
  Vigilancia poscomercialización e incidentes graves

  El proveedor establece y documenta un sistema de vigilancia poscomercialización (artículo 72, apartado 1) y notifica los incidentes graves a las autoridades de vigilancia del mercado (artículo 73).

• art. 26(1), (2)
  Usar según las instrucciones, encomendar la supervisión

  Los responsables del despliegue adoptan medidas técnicas y organizativas adecuadas para utilizar el sistema con arreglo a las instrucciones de uso. Encomiendan la supervisión humana a personas físicas que tengan la competencia, la formación y la autoridad necesarias.

• art. 26(4)–(6)
  Datos de entrada, vigilancia y archivos de registro

  En la medida en que ejerzan el control sobre los datos de entrada, los responsables del despliegue se aseguran de que sean pertinentes y suficientemente representativos. Vigilan el funcionamiento del sistema basándose en las instrucciones de uso. Conservan los archivos de registro bajo su control durante al menos seis meses, salvo que se disponga otra cosa en el Derecho de la Unión o nacional aplicable.

• art. 26(11)
  Informar a las personas afectadas

  Los responsables del despliegue de sistemas de alto riesgo del anexo III que tomen decisiones o ayuden a tomar decisiones relacionadas con personas físicas las informan de que están expuestas a la utilización del sistema, sin perjuicio del artículo 50 (artículo 26, apartado 11).

• art. 27(1)
  Sin evaluación de impacto sobre los derechos fundamentales para el punto 2

  El artículo 27, apartado 1, exige una evaluación del impacto en los derechos fundamentales antes de desplegar un sistema de IA de alto riesgo a que se refiere el artículo 6, apartado 2, por los responsables del despliegue que enumera, «con excepción de los sistemas de IA de alto riesgo destinados a ser utilizados en el ámbito enumerado en el anexo III, punto 2». Los productos de la sección A se clasifican con arreglo al artículo 6, apartado 1, no al artículo 6, apartado 2. Para cualquier otro sistema de alto riesgo del anexo III que utilice, el responsable del despliegue comprueba el artículo 27, apartado 1, por separado.

• art. 49(3), (5), 86(1)
  Sin registro del responsable del despliegue en la base de datos de la UE ni derecho a explicación para el punto 2

  El artículo 49, apartado 3, exige a los responsables del despliegue que sean autoridades públicas, instituciones, órganos u organismos de la Unión, o personas que actúen en su nombre, que se registren y registren el uso de un sistema del anexo III en la base de datos de la UE. Exceptúa los sistemas enumerados en el punto 2 del anexo III. Según el artículo 49, apartado 5, los sistemas del punto 2 se registran a nivel nacional. El artículo 86, apartado 1, confiere el derecho a explicación para los sistemas del anexo III «con excepción de los sistemas enumerados en el punto 2».

• Fechas

  Sección A: los requisitos del capítulo III, secciones 1 a 3, se aplican a los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 1, desde el 2 de agosto de 2028 (artículo 113, letra c), inciso ii)). Anexo III, punto 2: desde el 2 de diciembre de 2027 (letra c), inciso i)). Sección B: los artículos 9 a 15 no tienen fecha porque no se aplican (artículo 2, apartado 2); los artículos 102 a 110 se aplican desde el 27 de julio de 2026 (letra d)). Un sistema introducido en el mercado o puesto en servicio antes de la fecha de aplicación solo queda cubierto si su diseño cambia de forma significativa con posterioridad. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111, apartado 2).

• Multas

  Los proveedores deben velar por que sus sistemas de alto riesgo cumplan los requisitos de la sección 2 del capítulo III, que incluye los artículos 9 a 15 (artículo 16, letra a)). El incumplimiento de las obligaciones de los proveedores del artículo 16 o de las de los responsables del despliegue del artículo 26 puede sancionarse con multa. La multa es de hasta 15 millones de EUR o, si el infractor es una empresa, de hasta el 3 % de su volumen de negocios mundial total del ejercicio anterior, si esta cuantía es superior (artículo 99, apartado 4, letras a) y e)). Para las pymes, incluidas las empresas emergentes, cada multa tiene como límite la cuantía menor de las dos (artículo 99, apartado 6). Lo mismo rige para las pequeñas empresas de mediana capitalización (artículo 3, punto 14 ter, artículo 99, apartado 6 bis). Cada Estado miembro establece normas que determinan en qué medida es posible imponer multas administrativas a autoridades y organismos públicos establecidos en dicho Estado miembro (artículo 99, apartado 8). Para los productos de la sección B, el artículo 99 no figura entre las disposiciones que el artículo 2, apartado 2, enumera como aplicables.

• Alcance y límites del Reglamento

  El Reglamento se aplica a los proveedores y responsables del despliegue establecidos o ubicados en un tercer país cuando los resultados de salida generados por el sistema de IA se utilicen en la Unión (artículo 2, apartado 1, letra c)). No se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión y no afecta a las competencias de los Estados miembros en materia de seguridad nacional (artículo 2, apartado 3). No se aplica a los sistemas de IA cuando y en la medida en que se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificaciones, exclusivamente con fines militares, de defensa o de seguridad nacional (artículo 2, apartado 3). El Reglamento no se aplica a los sistemas o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la investigación y el desarrollo científicos como única finalidad (artículo 2, apartado 6). Tampoco se aplica a la actividad de investigación, prueba o desarrollo anterior a la introducción de un sistema en el mercado o su puesta en servicio. Las pruebas en condiciones reales no están cubiertas por esa exclusión (artículo 2, apartado 8). Los sistemas de IA publicados con arreglo a licencias libres y de código abierto quedan fuera del Reglamento. Esa exclusión no se aplica si se introducen en el mercado o se ponen en servicio como sistemas de IA de alto riesgo, o si entran en el ámbito de aplicación del artículo 5 o del artículo 50 (artículo 2, apartado 12). El Reglamento no se aplica a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2, apartado 10).

• Sin niveles de autonomía, dominios operativos ni umbrales numéricos

  El Reglamento no define niveles de autonomía ni utiliza ningún término como dominio de diseño operativo, operador remoto o registrador de datos de acontecimientos. No menciona ningún valor de precisión, tiempo de respuesta, nivel de redundancia ni norma técnica. Los proveedores fijan los parámetros para las pruebas (artículo 9, apartado 8) y declaran los niveles de precisión y los parámetros en las instrucciones de uso (artículo 15, apartado 3). El Reglamento no menciona por sí mismo ninguna norma armonizada. Se presume que los sistemas de alto riesgo conformes con normas armonizadas publicadas en el Diario Oficial son conformes con los requisitos de la sección 2, en la medida en que esas normas los contemplen (artículo 40, apartado 1). La Comisión elaborará directrices sobre la aplicación práctica de los requisitos y obligaciones de los artículos 8 a 15, 25 y 26 (artículo 96, apartado 1, letra a)) y sobre la relación del Reglamento con la legislación del anexo I (letra e)). El artículo 42 añade presunciones de conformidad con el artículo 10, apartado 4 (apartado 1), y con los requisitos de ciberseguridad del artículo 15 (apartados 2 y 3). Para los productos de la sección A, la Comisión publicará además directrices sobre el artículo 8, apartado 2, el artículo 9, apartado 10, y el artículo 17, apartado 3, a más tardar el 1 de agosto de 2027 (artículo 96, apartado 1, letra g)).

• Otra legislación se aplica junto con el Reglamento

  El Reglamento se entiende sin perjuicio de las normas establecidas por otros actos jurídicos de la Unión relativos a la protección de los consumidores y a la seguridad de los productos (artículo 2, apartado 9), y el Derecho de la Unión en materia de protección de datos personales sigue aplicándose (artículo 2, apartado 7). La legislación de la sección B mantiene sus propias normas, que esta página no describe. Los artículos 102 a 109 y el Reglamento (UE) 2026/1744 modifican algunas de ellas, como se indica más arriba.

• Ejemplo: un inventario único de sistemas de IA

  Ejemplo, no exigido por el Reglamento: un fabricante o un operador podría llevar un único inventario de sus sistemas de IA. Podría indicar para cada sistema el punto del anexo I o del anexo III, si es un componente de seguridad, si se cumple el artículo 6, apartado 1, y si la organización es proveedor o responsable del despliegue.

Cada página aplica un artículo a la IA en vehículos, aeronaves no tripuladas, robots y máquinas.

• Artículo 9 para sistemas autónomos: sistema de gestión de riesgos

  Sistema de gestión de riesgos para la IA de componentes de seguridad.

• Artículo 10 para sistemas autónomos: datos y gobernanza de datos

  Conjuntos de datos, examen de sesgos y categorías especiales de datos personales.

• Artículo 12 para sistemas autónomos: conservación de registros y archivos de registro

  Registro automático, quién conserva los archivos de registro e incidentes graves.

• Artículo 13 para sistemas autónomos: transparencia e instrucciones de uso

  Instrucciones de uso y por qué el artículo 86 no abarca el punto 2.

• Artículo 14 para sistemas autónomos: supervisión humana

  Supervisión humana, procedimiento de parada y lo que el Reglamento no exige.

• Artículo 15 para los sistemas autónomos: precisión, solidez y ciberseguridad

  Precisión, solidez y ciberseguridad.

• Artículo 17 para los sistemas autónomos: sistema de gestión de la calidad

  Sistema de gestión de la calidad.

• Artículo 26 para los sistemas autónomos: obligaciones de los responsables del despliegue

  Obligaciones del responsable del despliegue para sistemas de la sección A y del punto 2.

• Artículo 50 para los sistemas autónomos: transparencia e información

  Obligaciones de transparencia para chatbots y contenidos generados.

• Artículo 53 para los sistemas autónomos: obligaciones de los proveedores de modelos de IA de uso general

  Proveedores de modelos de IA de uso general.

• Sistemas de IA de alto riesgo del anexo I: la vía de seguridad de los productos

  Anexo I, secciones A y B: qué productos, qué normas se aplican y qué cambió para las máquinas.

• Artículo 6: clasificación de sistemas IA de alto riesgo

  Cómo clasifica el artículo 6 los sistemas de IA de alto riesgo, incluidos los componentes de seguridad y la excepción del artículo 6, apartado 3.

• Anexo III en detalle: las 8 categorías de alto riesgo

  El punto 2 del anexo III en el contexto de las ocho categorías.