KI-Verordnung: Checkliste für Anbieter und Betreiber

Gilt seit dem 2. Februar 2025. Die Verbote bestimmter intimer und missbräuchlicher Inhalte gelten ab dem 2. Dezember 2026.

• Prüfen Sie, ob eines Ihrer KI-Systeme einer verbotenen Praxis nach Artikel 5 Absatz 1 entspricht, zum Beispiel schädlicher Manipulation, Social Scoring, ungezieltem Auslesen von Gesichtsbildern oder der Ableitung von Emotionen am Arbeitsplatz und in Bildungseinrichtungen.
• Stoppen und dokumentieren Sie jedes System, das einer verbotenen Praxis entspricht, und berücksichtigen Sie dabei die Ausnahmen in Artikel 5.
• Prüfen Sie Systeme, die realistische Bilder, Videos oder Audioinhalte von intimen Körperteilen oder sexuell expliziten Handlungen einer identifizierbaren Person ohne deren Einwilligung erzeugen oder manipulieren (Artikel 5 Absatz 1 Buchstabe ba), sowie Material im Sinne von Artikel 2 Buchstaben c und e der Richtlinie 2011/93/EU, außer wenn nach nationalem Recht eine Einrede der Rechtfertigung greift (Buchstabe bb). Das Verbot gilt nur, wenn dies der Zweck des Systems ist oder ein vernünftigerweise vorhersehbares Ergebnis, das angemessene Schutzvorkehrungen nicht verhindern (Artikel 5 Absatz 1a).
• Ergreifen Sie Maßnahmen, um die KI-Kompetenz Ihres Personals und anderer Personen zu fördern, die in Ihrem Auftrag KI-Systeme betreiben oder nutzen (Artikel 4).

Gilt seit dem 2. August 2025 für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Früher in Verkehr gebrachte Modelle müssen die Pflichten bis zum 2. August 2027 erfüllen.

• Prüfen Sie, ob Sie ein KI-Modell mit allgemeinem Verwendungszweck anbieten: ein KI-Modell mit erheblicher allgemeiner Verwendbarkeit, das ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen kann (Artikel 3 Nummer 63).
• Erstellen Sie die technische Dokumentation des Modells, halten Sie sie aktuell und geben Sie Informationen an nachgelagerte Anbieter weiter (Artikel 53 Absatz 1 Buchstaben a und b).
• Führen Sie eine Strategie zur Einhaltung des Urheberrechts der Union ein (Artikel 53 Absatz 1 Buchstabe c).
• Veröffentlichen Sie eine hinreichend detaillierte Zusammenfassung der für das Training verwendeten Inhalte (Artikel 53 Absatz 1 Buchstabe d).
• Prüfen Sie, ob das Modell ein systemisches Risiko birgt, was weitere Pflichten auslöst (Artikel 51 und 55).

Gelten ab dem 2. August 2026. Anbieter von Systemen, die synthetische Inhalte erzeugen und früher in Verkehr gebracht wurden, müssen Artikel 50 Absatz 2 bis zum 2. Dezember 2026 erfüllen.

• Sorgen Sie dafür, dass KI-Systeme, die direkt mit Menschen interagieren, diese darüber informieren, dass sie mit einem KI-System interagieren, es sei denn, das ist offensichtlich (Artikel 50 Absatz 1).
• Kennzeichnen Sie synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar, sodass sie, soweit technisch machbar, als künstlich erzeugt erkennbar sind (Artikel 50 Absatz 2). Die Ausnahmen in diesem Absatz gelten.
• Informieren Sie Personen, die einem Emotionserkennungssystem oder einem System zur biometrischen Kategorisierung ausgesetzt sind (Artikel 50 Absatz 3).
• Legen Sie Deepfakes und KI-generierte Texte offen, die veröffentlicht werden, um die Öffentlichkeit über Themen von öffentlichem Interesse zu informieren, vorbehaltlich der Ausnahmen in Artikel 50 Absatz 4.

Gelten ab dem 2. Dezember 2027 (Anhang III) und ab dem 2. August 2028 (Anhang I). Vor diesen Terminen in Verkehr gebrachte oder in Betrieb genommene Systeme erfasst die Verordnung erst nach erheblichen Konzeptionsänderungen (Artikel 111 Absatz 2).

• Erfassen Sie alle KI-Systeme und ordnen Sie jedes nach Artikel 6, Anhang III und Anhang I ein. Dokumentieren Sie die Bewertung, wenn Sie sich auf Artikel 6 Absatz 3 berufen (Artikel 6 Absatz 4).
• Richten Sie ein Risikomanagementsystem ein, das über den gesamten Lebenszyklus läuft (Artikel 9).
• Wenden Sie Daten-Governance auf Trainings-, Validierungs- und Testdaten an und prüfen Sie diese auf mögliche Verzerrungen (Artikel 10).
• Erstellen Sie vor dem Inverkehrbringen oder der Inbetriebnahme eine technische Dokumentation mit mindestens den Angaben nach Anhang IV und halten Sie sie aktuell (Artikel 11).
• Sorgen Sie dafür, dass das System Ereignisse automatisch aufzeichnet (Protokolle), und bewahren Sie die Protokolle unter Ihrer Kontrolle mindestens sechs Monate auf, sofern anderes Recht nichts anderes vorsieht (Artikel 12 und 19).
• Stellen Sie eine Betriebsanleitung bereit, damit Betreiber die Ausgabe interpretieren können (Artikel 13).
• Gestalten Sie die menschliche Aufsicht so, dass Personen, soweit angemessen und verhältnismäßig, in den Betrieb eingreifen oder das System unterbrechen können, etwa mit einer Stopptaste oder einem ähnlichen Verfahren (Artikel 14).
• Erreichen und testen Sie ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit (Artikel 15).
• Richten Sie ein Qualitätsmanagementsystem ein (Artikel 17).
• Schließen Sie die Konformitätsbewertung vor dem Inverkehrbringen oder der Inbetriebnahme ab, und nach einer wesentlichen Veränderung erneut (Artikel 43).
• Stellen Sie die EU-Konformitätserklärung aus und bringen Sie die CE-Kennzeichnung an (Artikel 47 und 48).
• Registrieren Sie das System (Artikel 49) und bewahren Sie die Dokumentation zehn Jahre nach dem Inverkehrbringen oder der Inbetriebnahme auf (Artikel 18).

Gelten ab dem 2. Dezember 2027 (Anhang III) und ab dem 2. August 2028 (Anhang I).

• Verwenden Sie das System gemäß seiner Betriebsanleitung (Artikel 26 Absatz 1).
• Übertragen Sie die menschliche Aufsicht natürlichen Personen mit der erforderlichen Kompetenz, Ausbildung, Befugnis und Unterstützung (Artikel 26 Absatz 2).
• Stellen Sie, soweit Sie die Eingabedaten kontrollieren, sicher, dass diese im Hinblick auf die Zweckbestimmung relevant und ausreichend repräsentativ sind (Artikel 26 Absatz 4).
• Überwachen Sie den Betrieb anhand der Betriebsanleitung. Haben Sie Grund zu der Annahme, dass die anleitungsgemäße Verwendung ein Risiko im Sinne des Artikels 79 Absatz 1 bergen kann, informieren Sie unverzüglich den Anbieter oder Händler und die Marktüberwachungsbehörde und setzen Sie die Verwendung aus (Artikel 26 Absatz 5).
• Bewahren Sie die Protokolle unter Ihrer Kontrolle mindestens sechs Monate auf, sofern anderes Recht nichts anderes vorsieht (Artikel 26 Absatz 6).
• Betreiber, die Arbeitgeber sind: Informieren Sie vor der Inbetriebnahme oder Verwendung des Systems am Arbeitsplatz die Arbeitnehmervertreter und die betroffenen Beschäftigten (Artikel 26 Absatz 7).
• Informieren Sie natürliche Personen, über die Systeme nach Anhang III Entscheidungen treffen oder bei Entscheidungen unterstützen (Artikel 26 Absatz 11).
• Nutzen Sie die Informationen nach Artikel 13 für eine Datenschutz-Folgenabschätzung, wo sie verlangt wird (Artikel 26 Absatz 9), und bewerten Sie die Auswirkungen auf die Grundrechte, wo Artikel 27 gilt.

Die Artikel 72 und 73 stehen nicht in Artikel 113 Buchstaben a bis d und gelten daher ab dem allgemeinen Geltungstermin, dem 2. August 2026. Wie sich das zu den Hochrisiko-Terminen verhält, ist eine Frage für die Rechtsberatung. Die Betreiberpflichten unten folgen den Hochrisiko-Terminen.

• Anbieter: Betreiben Sie das System zur Beobachtung nach dem Inverkehrbringen, das auf einem Beobachtungsplan beruht (Artikel 72).
• Anbieter melden einen schwerwiegenden Vorfall der Marktüberwachungsbehörde unverzüglich, nachdem sie einen ursächlichen Zusammenhang oder die hinreichende Wahrscheinlichkeit eines solchen Zusammenhangs zwischen System und Vorfall festgestellt haben, und in jedem Fall spätestens 15 Tage nach Kenntnis. Kürzere Fristen gelten: spätestens 10 Tage nach Kenntnis von einem Todesfall und spätestens 2 Tage bei einem weitverbreiteten Verstoß oder einer schwerwiegenden und unumkehrbaren Störung kritischer Infrastruktur (Artikel 73 Absätze 2 bis 4).
• Anbieter: Aktualisieren Sie nach einer wesentlichen Veränderung die technische Dokumentation und wiederholen Sie die Konformitätsbewertung (Artikel 11 und 43 Absatz 4).
• Betreiber: Informieren Sie nach einem schwerwiegenden Vorfall zuerst den Anbieter, dann den Einführer oder Händler und die Marktüberwachungsbehörden (Artikel 26 Absatz 5).
• Führen Sie Ihre Code- und Dokumentenprüfungen vor jedem Release erneut aus und bewahren Sie die Berichte als Nachweis auf. Ein bestandener Scan zeigt keine Konformität.

• KI-Verordnung: Hochrisiko-KI-Systeme

  Welche KI-Systeme als Hochrisiko-Systeme gelten, welche Anforderungen Anbieter erfüllen und wer in Deutschland beaufsichtigt.

• KI-Verordnung: Anforderungen nach Rolle

  Was Anbieter, Betreiber, Einführer und Händler tun müssen, einschließlich Dokumentation, Risikomanagement und Transparenzpflichten.