Artículo 10 para sistemas autónomos: datos y gobernanza de datos

El artículo 10 establece obligaciones para el proveedor. No menciona ningún volumen de datos, valor de precisión ni plazo de conservación.

• art. 10(1), (6)
  Conjuntos de datos que cumplen los criterios de calidad

  Los sistemas de IA de alto riesgo que entrenan modelos de IA con datos deben desarrollarse a partir de conjuntos de datos de entrenamiento, validación y prueba. Esos conjuntos deben cumplir los criterios de calidad de los apartados 2, 3 y 4 y del artículo 4 bis, apartado 1, siempre que se utilicen. En los sistemas que no entrenan modelos, estas disposiciones se aplican solo a los conjuntos de datos de prueba.

• art. 10(2)
  Prácticas de gobernanza y gestión de datos

  Los conjuntos de datos deben someterse a prácticas de gobernanza y gestión de datos adecuadas para la finalidad prevista. Estas prácticas se refieren en particular a las decisiones de diseño, a los procesos de recogida de datos y al origen de los datos y, en el caso de los datos personales, a la finalidad original de la recogida. También se refieren a las operaciones de preparación de los datos, como la anotación, el etiquetado, la depuración, la actualización, el enriquecimiento y la agregación. Se refieren a los supuestos sobre lo que miden y representan los datos. Y se refieren a la disponibilidad, la cantidad y la adecuación de los conjuntos de datos necesarios, y a las lagunas o deficiencias de los datos y a cómo subsanarlas.

• art. 10(2)(f), (g)
  Examinar los sesgos y luego detectarlos, prevenirlos y mitigarlos

  Las prácticas deben incluir un examen atendiendo a posibles sesgos (letra f)). Abarca los sesgos que puedan afectar a la salud y la seguridad de las personas, afectar negativamente a los derechos fundamentales o dar lugar a una discriminación prohibida por el Derecho de la Unión, especialmente cuando las salidas de datos influyan en las informaciones de entrada de futuras operaciones. También deben incluir medidas adecuadas para detectar, prevenir y mitigar los sesgos detectados (letra g)).

• art. 10(3)
  Pertinentes, representativos y, en la medida de lo posible, sin errores

  Los conjuntos de datos deben ser pertinentes, suficientemente representativos y, en la mayor medida posible, carecer de errores y estar completos en vista de la finalidad prevista. Deben tener las propiedades estadísticas adecuadas, también, cuando proceda, en lo que respecta a las personas o los colectivos de personas en relación con los cuales esté previsto utilizar el sistema. Estas características pueden cumplirse en cada conjunto de datos o en una combinación de ellos.

• art. 10(4)
  Adecuados al entorno de uso

  Los conjuntos de datos deben tener en cuenta las características o los elementos particulares del entorno geográfico, contextual, conductual o funcional específico en el que esté previsto utilizar el sistema. Esto se aplica en la medida en que lo exija la finalidad prevista.

El artículo 10 se aplica solo a los sistemas de IA de alto riesgo. Las filas siguientes muestran qué IA en vehículos, aeronaves no tripuladas, robots y máquinas queda alcanzada y dónde no se aplica el artículo 10.

• Los sistemas autónomos no son una categoría del Reglamento

  El Reglamento no contiene ninguna categoría de sistemas autónomos. Su definición de sistema de IA habla de «distintos niveles de autonomía» (artículo 3, punto 1), y el artículo 14, apartado 3, de un «nivel de autonomía». El Reglamento no menciona ningún vehículo autónomo, dron ni robot. Este sitio utiliza «sistemas autónomos» para la IA en vehículos, aeronaves no tripuladas, robots y máquinas. Las normas aplicables dependen de la legislación de la Unión sobre productos que cubra el producto. Las filas siguientes presentan tres vías por las que un sistema de IA puede ser de alto riesgo: a través de la sección B del anexo I, a través de la sección A del anexo I y a través del anexo III, punto 2. También pueden aplicarse otras disposiciones, por ejemplo el artículo 4 (alfabetización en IA), el artículo 5 (prácticas prohibidas), el artículo 50 (transparencia), el artículo 53 (modelos de IA de uso general) y los demás puntos del anexo III.

• Productos de la sección B: vehículos, aeronaves no tripuladas, ferrocarril, equipos marinos, máquinas

  La sección B del anexo I enumera, por ejemplo, los vehículos de motor (Reglamentos (UE) 2018/858 y (UE) 2019/2144, puntos 18 y 19), los vehículos de dos o tres ruedas y los cuatriciclos (punto 14), los vehículos agrícolas o forestales (punto 15), el sistema ferroviario (punto 17), los equipos marinos (punto 16), las aeronaves no tripuladas y sus motores, hélices, componentes y equipos para controlarlas a distancia con arreglo al Reglamento (UE) 2018/1139 (punto 20) y las máquinas (Reglamento (UE) 2023/1230, punto 21). El Reglamento (UE) 2026/1744 trasladó las máquinas de la sección A a la sección B. A los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 1 y relativos a tales productos solo se les aplican el artículo 6, apartado 1, el artículo 60 bis y los artículos 102 a 112. Los artículos 57, 58 y 59 se aplican únicamente en la medida en que los requisitos para los sistemas de IA de alto riesgo se hayan integrado en dicha legislación de armonización de la Unión (artículo 2, apartado 2). Los artículos 9 a 15, 17, 26 y 99 no figuran entre las disposiciones aplicables. El artículo 2, apartado 2, se limita a los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 1; no restringe, por ejemplo, el artículo 4 ni el artículo 5. La página general sobre sistemas autónomos enumera lo que alcanza a estos productos en su lugar.

• Productos de la sección A: el capítulo III se aplica a los sistemas de alto riesgo

  La sección A del anexo I (puntos 2 a 12) abarca los juguetes, las embarcaciones de recreo, los ascensores, los equipos para uso en atmósferas potencialmente explosivas, los equipos radioeléctricos, los equipos a presión, las instalaciones de transporte por cable, los equipos de protección individual, los aparatos que queman combustibles gaseosos, los productos sanitarios y los productos sanitarios para diagnóstico in vitro. Un sistema de IA es de alto riesgo con arreglo al artículo 6, apartado 1 cuando está destinado a ser utilizado como componente de seguridad de uno de esos productos, o es él mismo uno de esos productos, y el producto debe someterse a una evaluación de la conformidad por un tercero con arreglo a dicha legislación. Se considerará que no cumplen esa condición los productos que deban someterse a una evaluación de la conformidad de terceros únicamente debido a riesgos distintos de los riesgos para la salud y la seguridad, en particular los riesgos relacionados con la distribución del espectro radioeléctrico o las interferencias electromagnéticas que no afecten a la salud y la seguridad (artículo 6, apartado 1 quater). Los requisitos para estos sistemas se aplican desde el 2 de agosto de 2028 (artículo 113, letra c), inciso ii)). El artículo 2, apartado 13, permite limitar la aplicación de requisitos específicos de los artículos 9 a 15 y 17 a 25 cuando y en la medida en que la legislación de la sección A establezca requisitos que proporcionen un nivel de protección equivalente o superior y la limitación no reduzca el nivel global de protección. La Comisión adoptará actos delegados al respecto a más tardar el 2 de agosto de 2027.

• Anexo III, punto 2: tráfico rodado, suministro de servicios básicos e infraestructura digital

  El anexo III, punto 2, abarca los sistemas de IA destinados a ser utilizados como componentes de seguridad en la gestión y el funcionamiento de las infraestructuras digitales críticas, del tráfico rodado o del suministro de agua, gas, calefacción o electricidad. El texto del anexo III no menciona ningún vehículo, aeronave, dron ni robot. Si un sistema concreto es un componente de seguridad en uno de estos ámbitos es una cuestión para un jurista. Los requisitos para estos usos del anexo III se aplican desde el 2 de diciembre de 2027 (artículo 113, letra c), inciso i)).

• El artículo 6, apartado 3, puede excluir un sistema del anexo III

  Un sistema del punto 2 es de alto riesgo con arreglo al artículo 6, apartado 2. Con arreglo al artículo 6, apartado 3, no lo es si no plantea un riesgo importante de causar un perjuicio a la salud, la seguridad o los derechos fundamentales. Eso incluye no influir sustancialmente en el resultado de la toma de decisiones. El Reglamento aplica esta excepción cuando se cumple cualquiera de las condiciones siguientes (artículo 6, apartado 3, letras a) a d)). Que el sistema esté destinado a realizar una tarea de procedimiento limitada. O que esté destinado a mejorar el resultado de una actividad humana previamente realizada. O que esté destinado a detectar patrones de toma de decisiones o desviaciones con respecto a patrones de toma de decisiones anteriores y no esté destinado a sustituir la valoración humana previamente realizada, ni a influir en ella, sin una revisión humana adecuada. O que esté destinado a realizar una tarea preparatoria para una evaluación que sea pertinente a efectos de los casos de uso enumerados en el anexo III. Cómo se combinan estas condiciones con el criterio del riesgo importante es una cuestión para un jurista. El sistema siempre es de alto riesgo si efectúa la elaboración de perfiles de personas físicas. El artículo 4, punto 4, del RGPD define la elaboración de perfiles (artículo 3, punto 52). El proveedor que se acoja a la excepción documenta su evaluación antes de introducir el sistema en el mercado o ponerlo en servicio. También debe registrar el sistema (artículo 6, apartado 4, artículo 49, apartado 2).

• Solo se contemplan los componentes de seguridad

  Un componente de seguridad es un componente de un producto o de un sistema de IA que cumple una función de seguridad para dicho producto o sistema de IA, o cuyo fallo o defecto de funcionamiento pone en peligro la salud y la seguridad de las personas o los bienes. Un componente cumple una función de seguridad cuando su finalidad prevista es prevenir o mitigar los riesgos para la salud y la seguridad de las personas o los bienes (artículo 3, punto 14). Los sistemas de IA que se utilicen únicamente para aspectos no relacionados con la seguridad en los ámbitos de la asistencia al usuario, la optimización del rendimiento, la eficiencia del servicio, la automatización, la comodidad o el control de calidad no se consideran componentes de seguridad (artículo 6, apartado 1 bis). Los sistemas de IA cuyo fallo o defecto de funcionamiento pueda poner en peligro la salud y la seguridad se consideran componentes de seguridad (artículo 6, apartado 1 ter). Si una función concreta de control, navegación o comodidad es un componente de seguridad es una cuestión para un jurista.

• Proveedor y responsable del despliegue

  El proveedor desarrolla un sistema de IA, o lo manda desarrollar, y lo introduce en el mercado o lo pone en servicio bajo su propio nombre o marca (artículo 3, punto 3). La puesta en servicio incluye el suministro para uso propio del proveedor (artículo 3, punto 11). En el caso de un componente de seguridad de un producto de la sección A, el fabricante del producto es el proveedor cuando el sistema se introduce en el mercado junto con el producto bajo el nombre o la marca del fabricante, o se pone en servicio bajo ese nombre o marca después de que el producto se haya introducido en el mercado (artículo 25, apartado 3). Un operador de flota, un operador de planta o una autoridad de carreteras que utiliza un sistema bajo su autoridad es un responsable del despliegue (artículo 3, punto 4). El responsable del despliegue pasa a ser proveedor en tres casos. Pone su nombre o marca en un sistema de alto riesgo ya introducido en el mercado, sin perjuicio de los acuerdos contractuales que estipulen que las obligaciones se asignan de otro modo. Realiza una modificación sustancial de ese sistema que lo deja como de alto riesgo. O cambia la finalidad prevista de un sistema que no era de alto riesgo de modo que pase a serlo (artículo 25, apartado 1). El proveedor que inicialmente introdujo el sistema en el mercado o lo puso en servicio deja entonces de ser considerado proveedor de ese sistema específico y debe cooperar estrechamente con el nuevo proveedor (artículo 25, apartado 2). Esto no se aplica si el proveedor inicial indicó claramente que su sistema no debe ser transformado en un sistema de alto riesgo.

• Categorías especiales de datos personales: artículo 4 bis

  Además del RGPD y de las demás normas de protección de datos aplicables, los proveedores de sistemas de IA de alto riesgo podrán tratar excepcionalmente categorías especiales de datos personales. Se permite en la medida en que sea estrictamente necesario para la detección y corrección de sesgos con arreglo al artículo 10, apartado 2, letras f) y g). Deben cumplirse todas las condiciones del artículo 4 bis, apartado 1, letras a) a f). Entre ellas figura que el tratamiento de otros datos, como los sintéticos o los anonimizados, no permita efectuar de forma efectiva la detección y corrección de sesgos. También figura que los datos se eliminen una vez corregido el sesgo o al llegar al final de su período de conservación, si esta fecha es anterior. El artículo 4 bis, apartado 2, da a los proveedores y responsables del despliegue de otros sistemas de IA, y a los responsables del despliegue de sistemas de alto riesgo, la misma posibilidad en las mismas condiciones. No crea ninguna obligación de llevar a cabo la detección y corrección de sesgos.

• Fechas

  Sección A: los requisitos del capítulo III, secciones 1 a 3, se aplican a los sistemas de IA clasificados como de alto riesgo con arreglo al artículo 6, apartado 1, desde el 2 de agosto de 2028 (artículo 113, letra c), inciso ii)). Anexo III, punto 2: desde el 2 de diciembre de 2027 (letra c), inciso i)). Sección B: los artículos 9 a 15 no tienen fecha porque no se aplican (artículo 2, apartado 2); los artículos 102 a 110 se aplican desde el 27 de julio de 2026 (letra d)). Un sistema introducido en el mercado o puesto en servicio antes de la fecha de aplicación solo queda cubierto si su diseño cambia de forma significativa con posterioridad. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111, apartado 2).

• Multas

  Los proveedores deben velar por que sus sistemas de alto riesgo cumplan los requisitos de la sección 2 del capítulo III, que incluye los artículos 9 a 15 (artículo 16, letra a)). El incumplimiento de las obligaciones de los proveedores del artículo 16 o de las de los responsables del despliegue del artículo 26 puede sancionarse con multa. La multa es de hasta 15 millones de EUR o, si el infractor es una empresa, de hasta el 3 % de su volumen de negocios mundial total del ejercicio anterior, si esta cuantía es superior (artículo 99, apartado 4, letras a) y e)). Para las pymes, incluidas las empresas emergentes, cada multa tiene como límite la cuantía menor de las dos (artículo 99, apartado 6). Lo mismo rige para las pequeñas empresas de mediana capitalización (artículo 3, punto 14 ter, artículo 99, apartado 6 bis). Cada Estado miembro establece normas que determinan en qué medida es posible imponer multas administrativas a autoridades y organismos públicos establecidos en dicho Estado miembro (artículo 99, apartado 8). Para los productos de la sección B, el artículo 99 no figura entre las disposiciones que el artículo 2, apartado 2, enumera como aplicables.

• Alcance y límites del Reglamento

  El Reglamento se aplica a los proveedores y responsables del despliegue establecidos o ubicados en un tercer país cuando los resultados de salida generados por el sistema de IA se utilicen en la Unión (artículo 2, apartado 1, letra c)). No se aplica a los ámbitos que queden fuera del ámbito de aplicación del Derecho de la Unión y no afecta a las competencias de los Estados miembros en materia de seguridad nacional (artículo 2, apartado 3). No se aplica a los sistemas de IA cuando y en la medida en que se introduzcan en el mercado, se pongan en servicio o se utilicen, con o sin modificaciones, exclusivamente con fines militares, de defensa o de seguridad nacional (artículo 2, apartado 3). El Reglamento no se aplica a los sistemas o modelos de IA, incluidos sus resultados de salida, desarrollados y puestos en servicio específicamente con la investigación y el desarrollo científicos como única finalidad (artículo 2, apartado 6). Tampoco se aplica a la actividad de investigación, prueba o desarrollo anterior a la introducción de un sistema en el mercado o su puesta en servicio. Las pruebas en condiciones reales no están cubiertas por esa exclusión (artículo 2, apartado 8). Los sistemas de IA publicados con arreglo a licencias libres y de código abierto quedan fuera del Reglamento. Esa exclusión no se aplica si se introducen en el mercado o se ponen en servicio como sistemas de IA de alto riesgo, o si entran en el ámbito de aplicación del artículo 5 o del artículo 50 (artículo 2, apartado 12). El Reglamento no se aplica a las obligaciones de los responsables del despliegue que sean personas físicas que utilicen sistemas de IA en el ejercicio de una actividad puramente personal de carácter no profesional (artículo 2, apartado 10).

• Sin norma de datos para datos de sensores, de conducción o de funcionamiento

  El artículo 10 no menciona un tamaño mínimo de datos, una distancia, una medida de representatividad, un parámetro de sesgo ni una fuente de datos admitida, ni contiene ninguna regla sobre datos de sensores. El proveedor decide qué es adecuado para la finalidad prevista (artículo 10, apartado 2). Se presume que los sistemas entrenados y probados con datos que reflejan el entorno geográfico, conductual, contextual o funcional específico en el que esté previsto su uso cumplen el artículo 10, apartado 4 (artículo 42, apartado 1). El Reglamento no menciona por sí mismo ninguna norma armonizada. Se presume que los sistemas de alto riesgo conformes con normas armonizadas publicadas en el Diario Oficial son conformes con los requisitos de la sección 2, en la medida en que esas normas los contemplen (artículo 40, apartado 1). La Comisión elaborará directrices sobre la aplicación práctica de los requisitos y obligaciones de los artículos 8 a 15, 25 y 26 (artículo 96, apartado 1, letra a)) y sobre la relación del Reglamento con la legislación del anexo I (letra e)).

• Ejemplo: datos que cubran el entorno de funcionamiento

  Ejemplo, no exigido por el Reglamento: el proveedor de una función de seguridad de IA para una instalación de transporte por cable podría comprobar si sus datos de entrenamiento cubren las condiciones meteorológicas y las cargas en las que el sistema está destinado a utilizarse (artículo 10, apartado 4).

• Ejemplo: registrar el origen de los datos y sus lagunas

  Ejemplo, no exigido por el Reglamento: el proveedor podría registrar de dónde proceden sus datos de sensores y cómo se trataron las lagunas. El artículo 10, apartado 2, letras b) y h), exigen los procesos de recopilación de datos y su origen, y la determinación de las lagunas de datos y cómo subsanarlas.

• Artículo 10: gobernanza de datos para la IA de alto riesgo

  El artículo 10 para todos los sectores: requisitos, fechas y multas.

• Reglamento IA sistemas autónomos: cumplimiento

  La página general sobre sistemas autónomos: las tres vías por las que un sistema puede ser de alto riesgo en el caso de vehículos, aeronaves no tripuladas, robots y máquinas, y las demás disposiciones que pueden aplicarse.

• Artículo 12 para sistemas autónomos: conservación de registros y archivos de registro

  Sistemas autónomos y artículo 12: registro automático y quién conserva los archivos de registro.

• Reglamento IA vs RGPD: diferencias y solapamientos

  Cómo se solapan el Reglamento de IA y el RGPD.