Artikel 55: Pflichten bei systemischem Risiko
Artikel 55 der KI-Verordnung: wann ein KI-Modell mit allgemeinem Verwendungszweck ein systemisches Risiko hat, die Meldung binnen zwei Wochen, die vier zusätzlichen Pflichten, Fristen und Geldbußen.
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) mit systemischem Risiko haben vier zusätzliche Pflichten (Artikel 55 Absatz 1). Sie betreffen Bewertung und Tests, Risikominderung, Meldung von Vorfällen und Cybersicherheit.
Ein Modell hat ein systemisches Risiko, wenn es Fähigkeiten mit hoher Wirkkraft hat (Artikel 51). Das vermutet die Verordnung bei mehr als 1025 Gleitkommaoperationen (FLOPs) im Training. Anbieter müssen die Kommission innerhalb von zwei Wochen informieren (Artikel 52 Absatz 1). Die Pflichten gelten seit dem 2. August 2025. Seit dem 2. August 2026 kann die Kommission Geldbußen verhängen. Sie betragen bis zu 3 % des weltweiten Jahresumsatzes oder 15 Mio. EUR, je nachdem, was höher ist (Artikel 101). Nächster Schritt: Prüfen Sie die Trainingsrechenleistung Ihres Modells.
Ein Modell hat ein systemisches Risiko, wenn es Fähigkeiten mit hoher Wirkkraft hat oder die Kommission es einstuft
Schwellenwert für die Rechenleistung
Fähigkeiten mit hoher Wirkkraft sind Fähigkeiten, die denen der fortschrittlichsten GPAI-Modelle entsprechen oder sie übersteigen (Artikel 3 Nummer 64). Die Verordnung vermutet sie, wenn die für das Training verwendete kumulierte Rechenleistung mehr als 1025 Gleitkommaoperationen (FLOPs) beträgt. Die Kommission kann den Schwellenwert durch delegierten Rechtsakt an die technische Entwicklung anpassen (Artikel 51 Absätze 2 und 3).
Einstufung durch die Kommission
Die Kommission kann auch ein Modell einstufen, dessen Fähigkeiten oder Auswirkungen denen mit hoher Wirkkraft gleichwertig sind, von Amts wegen oder nach einer qualifizierten Warnung des wissenschaftlichen Gremiums. Sie nutzt dafür die Kriterien des Anhangs XIII, etwa Parameter, Trainingsdaten, Rechenleistung, Modalitäten, Benchmarks und Reichweite (Artikel 51 Absatz 1 Buchstabe b). Ein Modell, das mindestens 10 000 in der Union niedergelassenen registrierten gewerblichen Nutzern zur Verfügung steht, hat vermutlich eine hohe Auswirkung auf den Binnenmarkt (Anhang XIII).
Die Kommission innerhalb von zwei Wochen informieren
Der Anbieter muss die Kommission unverzüglich und in jedem Fall innerhalb von zwei Wochen informieren, sobald sein Modell die Bedingung nach Artikel 51 Absatz 1 Buchstabe a erfüllt. Die zwei Wochen beginnen auch, wenn bekannt wird, dass das Modell die Bedingung erfüllen wird. Die Meldung muss die Angaben enthalten, die belegen, dass die Bedingung erfüllt ist (Artikel 52 Absatz 1).
Mit der Meldung kann der Anbieter stichhaltig begründete Argumente vorlegen, dass das Modell ausnahmsweise aufgrund seiner besonderen Merkmale kein systemisches Risiko birgt. Die Kommission entscheidet; weist sie die Argumente zurück, gilt das Modell als Modell mit systemischem Risiko (Artikel 52 Absätze 2 und 3). Anbieter eingestufter Modelle können frühestens sechs Monate nach der Einstufung einen begründeten Antrag auf Neubewertung stellen, mit objektiven, detaillierten und neuen Gründen. Die Kommission veröffentlicht und aktualisiert eine Liste der GPAI-Modelle mit systemischem Risiko (Artikel 52 Absätze 5 und 6).
Modelle mit systemischem Risiko haben vier weitere Pflichten
Diese Pflichten gelten zusätzlich zu den Pflichten aus den Artikeln 53 und 54 (Artikel 55 Absatz 1). Die technische Dokumentation dieser Modelle muss außerdem die Bewertungsstrategien und -ergebnisse beschreiben. Soweit zutreffend, kommen Maßnahmen für Angriffstests und die Systemarchitektur hinzu (Anhang XI Abschnitt 2).
Das Modell bewerten und testen
Bewerten Sie das Modell mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen. Dazu gehören Angriffstests (gezielte Angriffe auf das Modell, um Schwächen zu finden) (Artikel 55 Absatz 1 Buchstabe a).
Systemische Risiken bewerten und mindern
Bewerten und mindern Sie mögliche systemische Risiken auf Unionsebene, einschließlich ihrer Ursachen (Artikel 55 Absatz 1 Buchstabe b).
Schwerwiegende Vorfälle melden
Erfassen Sie schwerwiegende Vorfälle, dokumentieren Sie sie mit möglichen Abhilfemaßnahmen und melden Sie sie unverzüglich dem KI-Büro und gegebenenfalls den zuständigen nationalen Behörden (Artikel 55 Absatz 1 Buchstabe c).
Vor Cyberangriffen schützen
Gewährleisten Sie ein angemessenes Maß an Cybersicherheit für das Modell und seine physische Infrastruktur (Artikel 55 Absatz 1 Buchstabe d).
Praxisleitfäden können die Einhaltung belegen, bis eine harmonisierte Norm vorliegt
Anbieter können sich auf Praxisleitfäden (Artikel 56) stützen, um die Einhaltung von Artikel 55 nachzuweisen, bis eine harmonisierte Norm veröffentlicht ist. Wer eine harmonisierte europäische Norm einhält, für den gilt die Vermutung der Konformität, soweit die Norm diese Pflichten abdeckt. Anbieter, die weder einen genehmigten Praxisleitfaden befolgen noch eine harmonisierte europäische Norm einhalten, müssen geeignete alternative Verfahren zur Einhaltung aufzeigen, die die Kommission bewertet (Artikel 55 Absatz 2). Erlangte Informationen, einschließlich Geschäftsgeheimnissen, werden vertraulich behandelt (Artikel 55 Absatz 3). Nächster Schritt: Lesen Sie den KI-Verhaltenskodex für allgemeine Zwecke der Kommission.
Open-Source-Modelle sind von Artikel 55 nicht ausgenommen
Die Open-Source-Ausnahme nach Artikel 53 Absatz 2 gilt nicht für Modelle mit systemischem Risiko (Artikel 53 Absatz 2). Auch Anbieter solcher Modelle, die außerhalb der Union niedergelassen sind, müssen einen Bevollmächtigten benennen (Artikel 54 Absatz 6).
Einige Verwendungen fallen nicht unter die Verordnung
Die Verordnung gilt nicht für KI-Systeme, wenn und soweit sie ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden. Das gilt auch für das Inverkehrbringen und die Inbetriebnahme zu diesen Zwecken (Artikel 2 Absatz 3). Sie gilt nicht für KI-Systeme oder -Modelle, die eigens und ausschließlich für Zwecke der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6). Sie gilt nicht für Forschungs-, Test- und Entwicklungstätigkeiten zu KI-Systemen oder -Modellen, bevor diese in Verkehr gebracht oder in Betrieb genommen werden (Artikel 2 Absatz 8). Tests unter Realbedingungen fallen nicht unter diese Ausnahme.
Die Pflichten gelten seit dem 2. August 2025; Geldbußen frühestens ab dem 2. August 2026
Artikel 113 lässt Kapitel V (Artikel 51 bis 56) ab dem 2. August 2025 gelten. Kapitel XII über Sanktionen gilt ab demselben Datum mit einer Ausnahme: Artikel 101 über Geldbußen gegen Anbieter von GPAI-Modellen gilt ab dem 2. August 2026 (Artikel 113).
Anbieter von Modellen, die vor dem 2. August 2025 in Verkehr gebracht wurden, haben bis zum 2. August 2027 Zeit (Artikel 111 Absatz 3). Die Kommission kann einen Verstoß dieser Modelle gegen die Pflichten nicht vor dem 2. August 2027 mit einer Geldbuße ahnden (Artikel 101 Absatz 1 Buchstabe a). Geldbußen nach Artikel 101 Absatz 1 Buchstaben b bis d, etwa weil eine Auskunft nicht erteilt, eine verlangte Maßnahme nicht befolgt oder kein Zugang für eine Bewertung gewährt wurde, gelten ab dem 2. August 2026.
Die Kommission kann gegen einen Anbieter Geldbußen von bis zu 3 % seines gesamten weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr oder 15 Mio. EUR verhängen, je nachdem, was höher ist (Artikel 101 Absatz 1). Geldbußen drohen bei vorsätzlichem oder fahrlässigem Verhalten. Erfasst sind Verstöße gegen die einschlägigen Bestimmungen, das Nichtbefolgen einer angeforderten Maßnahme und die Verweigerung des Zugangs zum Modell für eine Bewertung. Erfasst sind auch unbeantwortete Ersuchen um Unterlagen oder Auskünfte sowie unrichtige, unvollständige oder irreführende Angaben. Bei einem Modell, das vor dem 2. August 2025 in Verkehr gebracht wurde, müssen die Pflichten bis zum 2. August 2027 erfüllt sein (Artikel 111 Absatz 3). Ein Verstoß gegen die Pflichten aus Artikel 53 kann bei einem solchen Modell daher nicht vorher geahndet werden. Verhalten nach Artikel 101 Absatz 1 Buchstaben b bis d kann ab dem 2. August 2026 geahndet werden. Die Kommission muss den Anbieter zuvor anhören (Artikel 101 Absatz 2). Der Gerichtshof der Europäischen Union kann die Geldbuße aufheben, herabsetzen oder erhöhen (Artikel 101 Absatz 5).
Was Scanara für Anbieter mit systemischem Risiko leistet
Eine geführte Bewertung für GPAI-Anbieter
Scanara führt Sie für Ihr Modell durch die Pflichten der Artikel 53 bis 55 und hält Ihre Antworten fest. Sie entscheiden, welche Pflichten gelten, bei hohem Risiko mit rechtlicher Beratung.
Dokumente nach Anhang XI, einschließlich des Abschnitts zum systemischen Risiko
Scanara erzeugt die Dokumentation nach Anhang XI aus Vorlagen, teilweise aus Ihren Antworten vorausgefüllt. Die Bewertungsergebnisse und modellspezifischen Inhalte liefern Sie.
Dokumentiert Ihre Tests, führt sie aber nicht durch
Scanara hilft Ihnen, Modellbewertung und Angriffstests zu dokumentieren. Es führt sie nicht durch und entscheidet nicht, ob Ihr Modell ein systemisches Risiko hat.
Häufige Fragen: Schwellenwert, Sanktionen, Startdaten und Open Source
Fällt mein GPAI-Modell unter Artikel 55?
Ja, wenn es ein systemisches Risiko hat. Erste Möglichkeit: Die für das Training verwendete kumulierte Rechenleistung übersteigt den Schwellenwert in Artikel 51 Absatz 2, den die Verordnung als Vermutung hoher Wirkkraft behandelt. Zweite Möglichkeit: Die Kommission hat das Modell eingestuft (Artikel 51 Absatz 1). Mit der Meldung können Sie darlegen, dass das Modell ausnahmsweise kein systemisches Risiko birgt (Artikel 52 Absatz 2). Die Kommission entscheidet (Artikel 52 Absatz 3).
Was passiert, wenn wir die Pflichten nicht erfüllen?
Seit dem 2. August 2026 kann die Kommission Geldbußen gegen Anbieter verhängen. Sie betragen bis zu 3 % des weltweiten Jahresumsatzes oder 15 Mio. EUR, je nachdem, was höher ist (Artikel 101 Absatz 1). Geldbußen drohen bei vorsätzlichen oder fahrlässigen Verstößen. Der Gerichtshof der Europäischen Union kann die Geldbuße aufheben, herabsetzen oder erhöhen (Artikel 101 Absatz 5).
Ab wann gelten diese Pflichten?
Seit dem 2. August 2025 für Modelle, die ab diesem Datum in der EU in Verkehr gebracht werden. Modelle, die vor dem 2. August 2025 in Verkehr gebracht wurden, haben bis zum 2. August 2027 Zeit (Artikel 111 Absatz 3). Artikel 55 gilt zusammen mit Artikel 53, für den dieselben Daten gelten.
Ist ein Modell unter einer Open-Source-Lizenz ausgenommen?
Nein, nicht bei systemischem Risiko. Die Open-Source-Ausnahme gilt nicht für Modelle mit systemischem Risiko (Artikel 53 Absatz 2), und außerhalb der Union niedergelassene Anbieter müssen einen Bevollmächtigten benennen (Artikel 54 Absatz 6).
Die Einzelheiten zu verwandten Pflichten
Artikel 53: Pflichten der GPAI-Anbieter
Behandelt die vier Pflichten jedes GPAI-Anbieters, auf denen Artikel 55 aufbaut.
GPAI-Pflichten: Was Modellanbieter und Entwickler tun müssen
Gibt den Überblick für Anbieter und für Entwickler, die ein GPAI-Modell über eine API nutzen.
Fristen der KI-Verordnung: kompletter Zeitplan
Zeigt alle Geltungsdaten der Verordnung, auch die für GPAI.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.