Skip to main content

KI-Verordnung en Alemania: deberes, plazos y supervisión

Qué exige el Reglamento de IA de la UE (KI-Verordnung) a las empresas en Alemania: niveles de riesgo, fechas de aplicación, multas y autoridad supervisora.

Los proveedores, responsables del despliegue, importadores y distribuidores de sistemas de IA en la UE deben cumplir el Reglamento (UE) 2024/1689, llamado KI-Verordnung en Alemania. La mayoría de las prácticas prohibidas se aplican desde el 2 de febrero de 2025. Los deberes de alto riesgo se aplican desde el 2 de diciembre de 2027 (anexo III) y el 2 de agosto de 2028 (anexo I).

El Reglamento abarca los sistemas introducidos en el mercado o puestos en servicio en la UE. El artículo 2 enumera exclusiones. En Alemania, la Bundesnetzagentur (agencia federal de redes) es, por defecto, la autoridad de vigilancia del mercado (§ 2(1) KI-MIG). Las multas por prácticas prohibidas pueden alcanzar 35 millones de EUR o el 7 % del volumen de negocios anual mundial (artículo 99(3)). Rige la cuantía que sea superior. Siguiente paso: clasifique cada sistema de IA por nivel de riesgo.

Fechas clave

Entrada en vigor
1 de agosto de 2024
Las prácticas prohibidas se aplican (artículo 5)
2 de febrero de 2025; prohibiciones de ciertos materiales íntimos y abusivos: 2 de diciembre de 2026
Deberes para los modelos de IA de uso general (capítulo V)
2 de agosto de 2025; modelos comercializados antes: 2 de agosto de 2027
Deberes de transparencia (artículo 50)
2 de agosto de 2026
Deberes de alto riesgo (capítulo III, secciones 1 a 3)
2 de diciembre de 2027 (anexo III); 2 de agosto de 2028 (anexo I)

Qué se aplica a cada sistema (nuestra agrupación de las normas del Reglamento)

  • Prácticas prohibidas (artículo 5)

    Ejemplos son la manipulación perjudicial, la puntuación social, la extracción no selectiva de imágenes faciales y la inferencia de emociones en el trabajo y en la educación, salvo por motivos médicos o de seguridad. La mayoría de las prohibiciones se aplican desde el 2 de febrero de 2025.

  • Sistemas de IA de alto riesgo (artículo 6)

    Ámbitos del anexo III como empleo, educación, puntuación crediticia y garantía del cumplimiento del Derecho. También los sistemas que son un componente de seguridad de un producto, o son ellos mismos un producto, sujeto a la legislación del anexo I que requiere una evaluación de la conformidad por un tercero. Los proveedores cumplen los artículos 9 a 15 y el artículo 16; los responsables del despliegue, el artículo 26. Para la legislación del anexo I, sección B, solo se aplican los artículos 6(1), 60a y 102 a 112.

  • Deberes de transparencia (artículo 50)

    Los chatbots informan de que se interactúa con IA, salvo que sea obvio. Los proveedores marcan el contenido sintético en formato legible por máquina, y los responsables del despliegue revelan los deepfakes e informan a las personas expuestas al reconocimiento de emociones o a la categorización biométrica. El artículo 50 prevé excepciones, por ejemplo para sistemas autorizados por ley para detectar o perseguir delitos.

  • Modelos de IA de uso general (artículos 51 a 55)

    Los proveedores documentan el modelo, establecen una política de derechos de autor y publican un resumen del contenido de entrenamiento. Los proveedores de modelos libres y de código abierto quedan exentos de los deberes de documentación, salvo que el modelo tenga riesgo sistémico (artículo 53(2)). Los modelos con riesgo sistémico tienen más deberes.

  • Todos los demás sistemas de IA

    Más allá de la alfabetización en IA (artículo 4) y de los deberes de transparencia cuando se aplique el artículo 50, el Reglamento no fija requisitos específicos para ellos. Los códigos de conducta son voluntarios (artículo 95).

Tres guías detalladas: sistemas de alto riesgo, lista de comprobación y requisitos por función

Más recursos: portal del Reglamento de IA y clasificación de riesgos

Multas: tres niveles en el artículo 99

  • Hasta 35 millones de EUR o el 7 % del volumen de negocios anual mundial

    La cuantía que sea superior. Para las prácticas prohibidas del artículo 5 (artículo 99(3)).

  • Hasta 15 millones de EUR o el 3 % del volumen de negocios anual mundial

    La cuantía que sea superior. Por incumplir las obligaciones de proveedores, representantes autorizados, importadores, distribuidores y responsables del despliegue, y el artículo 50 (artículo 99(4)). La Comisión puede multar a los proveedores de modelos de IA de uso general hasta los mismos importes (artículo 101).

  • Hasta 7,5 millones de EUR o el 1 % del volumen de negocios anual mundial

    La cuantía que sea superior. Por información incorrecta, incompleta o engañosa a organismos notificados o autoridades (artículo 99(5)).

En Alemania, la KI-MIG regula las multas (§ 1).

Exclusiones, sistemas anteriores y límites de las multas

El Reglamento no se aplica a los sistemas de IA usados exclusivamente con fines militares, de defensa o de seguridad nacional (artículo 2(3)). No se aplica a los sistemas de IA desarrollados y puestos en servicio específicamente y con el único fin de la investigación y el desarrollo científicos (artículo 2(6)), ni a la investigación, las pruebas o el desarrollo previos a la comercialización o puesta en servicio, salvo las pruebas en condiciones reales (artículo 2(8)). Quedan excluidos los sistemas con licencias libres y de código abierto, salvo que se comercialicen o pongan en servicio como sistemas de alto riesgo o entren en el artículo 5 o 50 (artículo 2(12)). Las personas físicas que usan un sistema en una actividad personal de carácter no profesional no están obligadas como responsables del despliegue (artículo 2(10)). Para los sistemas de alto riesgo ligados a productos de la legislación del anexo I, sección B, como vehículos de motor, aviación, ferrocarril, equipos marinos, vehículos agrícolas y maquinaria, solo se aplican el artículo 6(1), el artículo 60a y los artículos 102 a 112. Los artículos 57 a 59 se aplican solo en la medida en que esa legislación integre los requisitos (artículo 2(2)).

Los sistemas de alto riesgo comercializados o puestos en servicio antes de la fecha de aplicación solo quedan cubiertos tras cambios significativos de diseño. En cualquier caso, los proveedores y los responsables del despliegue de sistemas de IA de alto riesgo destinados a ser utilizados por autoridades públicas deben adoptar las medidas necesarias para cumplir a más tardar el 2 de agosto de 2030 (artículo 111(2)).

Para las pymes, cada multa llega como máximo al porcentaje o la cuantía que sea inferior (artículo 99(6)). Para las pequeñas empresas de mediana capitalización (artículo 3, punto 14b), el mismo límite se aplica a las multas de los apartados 4 y 5 del artículo 99 (artículo 99(6a)). El nivel de 15 millones de EUR abarca también las obligaciones de proveedores y operadores del artículo 25, apartados 2 y 4 (artículo 99(4), letra da).

Scanara prepara pruebas a partir de sus repositorios

Scanara lee sus repositorios de GitHub conectados y ejecuta análisis basados en reglas de patrones habituales de IA y aprendizaje automático. Puede pasar por alto código no estándar. Por separado, genera borradores de documentación a partir de plantillas y de sus respuestas en las evaluaciones, como pruebas para su trabajo de cumplimiento. Usted decide la clasificación.