GPAI-Pflichten: Was Modellanbieter und Entwickler tun müssen
Vier Pflichten für Anbieter von GPAI-Modellen, vier weitere bei systemischem Risiko und was Entwickler tun müssen, die darauf aufbauen.
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI-Modelle) müssen das Modell dokumentieren, nachgelagerte Anbieter informieren, die Trainingsinhalte zusammenfassen und eine Urheberrechtsstrategie festlegen (Artikel 53).
Die Pflichten gelten für Modelle, die ab dem 2. August 2025 in der EU in Verkehr gebracht werden. Die Kommission kann Verstöße ab dem 2. August 2026 mit Geldbußen ahnden: bis zu 3 % des weltweiten Jahresumsatzes oder 15 Mio. EUR, je nachdem, was höher ist (Artikel 101). Bei früheren Modellen können Pflichtverstöße nicht vor dem 2. August 2027 entstehen (Artikel 111 Absatz 3). Anbieter außerhalb der EU brauchen einen EU-Bevollmächtigten, mit Open-Source-Ausnahme (Artikel 54). Nächster Schritt: Anbieter erstellen die Dokumentation, nachgelagerte Anbieter (Systementwickler) fordern Informationen an.
Ein GPAI-Modell ist ein KI-Modell für viele verschiedene Aufgaben
Ein KI-Modell mit allgemeinem Verwendungszweck weist eine erhebliche allgemeine Verwendbarkeit auf, erfüllt ein breites Spektrum unterschiedlicher Aufgaben kompetent und lässt sich in viele nachgelagerte Systeme und Anwendungen integrieren (Artikel 3 Nummer 63). Forschungs-, Test- und Entwicklungstätigkeiten zu einem Modell, bevor es in Verkehr gebracht oder in Betrieb genommen wird, fallen nicht unter die Verordnung, Tests unter Realbedingungen aber schon (Artikel 2 Absatz 8). Modelle, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen werden, sind ebenfalls ausgenommen (Artikel 2 Absatz 6).
Alle GPAI-Modelle
Anbieter von GPAI-Modellen müssen die vier Pflichten aus Artikel 53 Absatz 1 erfüllen, mit einer Ausnahme für Open-Source-Modelle (Artikel 53 Absatz 2).
GPAI-Modelle mit systemischem Risiko
Ein Modell hat ein systemisches Risiko, wenn es Fähigkeiten mit hoher Wirkkraft hat (Artikel 51 Absatz 1 Buchstabe a). Das sind Fähigkeiten, die denen der fortschrittlichsten GPAI-Modelle entsprechen oder sie übersteigen (Artikel 3 Nummer 64). Die Verordnung vermutet das, wenn das Training mehr als 1025 Gleitkommaoperationen (FLOPs) erforderte (Artikel 51 Absatz 2). Die Kommission kann ein Modell auch einstufen. Diese Anbieter müssen zusätzlich die Pflichten aus Artikel 55 erfüllen.
Artikel 53 legt GPAI-Anbietern vier Pflichten auf
Das Modell dokumentieren
Erstellen und aktualisieren Sie die technische Dokumentation des Modells, einschließlich der Ergebnisse von Training, Tests und Bewertung. Stellen Sie sie dem KI-Büro (im Verordnungstext: Büro für Künstliche Intelligenz; die Stelle der Kommission, die GPAI-Modelle beaufsichtigt) und den zuständigen nationalen Behörden auf Anfrage zur Verfügung (Artikel 53 Absatz 1 Buchstabe a).
Nachgelagerte Anbieter informieren
Erstellen Sie Informationen über die Fähigkeiten und Grenzen des Modells und stellen Sie sie bereit, damit Anbieter, die darauf KI-Systeme aufbauen, ihren eigenen Pflichten nachkommen können. Das ändert nichts daran, dass Rechte des geistigen Eigentums sowie vertrauliche Geschäftsinformationen oder Geschäftsgeheimnisse nach dem Unionsrecht und dem nationalen Recht zu achten und zu schützen sind (Artikel 53 Absatz 1 Buchstabe b).
Eine Urheberrechtsstrategie festlegen
Führen Sie eine Strategie zur Einhaltung des Urheberrechts der Union ein. Sie muss Rechtsvorbehalte von Rechteinhabern gegen Text- und Data-Mining (automatisierte Analyse von Inhalten) erkennen und beachten (Artikel 53 Absatz 1 Buchstabe c; Richtlinie (EU) 2019/790, Artikel 4 Absatz 3).
Eine Zusammenfassung der Trainingsinhalte veröffentlichen
Veröffentlichen Sie eine hinreichend detaillierte Zusammenfassung der Inhalte, die für das Training des Modells verwendet wurden, nach der Vorlage des KI-Büros (Artikel 53 Absatz 1 Buchstabe d).
Anbieter von Modellen unter einer freien und quelloffenen Lizenz sind von den ersten beiden Pflichten, Dokumentation und Information, ausgenommen, wenn Gewichte, Architektur und Nutzungsinformationen öffentlich sind. Die Urheberrechtsstrategie und die Zusammenfassung bleiben Pflicht. Die Ausnahme gilt nicht für Modelle mit systemischem Risiko (Artikel 53 Absatz 2).
Anbieter von Modellen, die vor dem 2. August 2025 in Verkehr gebracht wurden, haben bis zum 2. August 2027 Zeit (Artikel 111 Absatz 3). Die Kommission kann einen Verstoß dieser Modelle gegen die Pflichten nicht vor dem 2. August 2027 mit einer Geldbuße ahnden (Artikel 101 Absatz 1 Buchstabe a). Geldbußen nach Artikel 101 Absatz 1 Buchstaben b bis d, etwa weil eine Auskunft nicht erteilt, eine verlangte Maßnahme nicht befolgt oder kein Zugang für eine Bewertung gewährt wurde, gelten ab dem 2. August 2026.
Anbieter können sich auf Praxisleitfäden (Artikel 56) stützen, um die Einhaltung dieser Pflichten nachzuweisen, bis eine harmonisierte Norm veröffentlicht ist. Wer eine harmonisierte europäische Norm einhält, für den gilt die Vermutung der Konformität, soweit die Norm diese Pflichten abdeckt. Anbieter, die keinen genehmigten Praxisleitfaden befolgen oder eine harmonisierte europäische Norm nicht einhalten, müssen geeignete alternative Verfahren zur Einhaltung aufzeigen, die die Kommission bewertet (Artikel 53 Absatz 4). Nächster Schritt: Lesen Sie den KI-Verhaltenskodex für allgemeine Zwecke der Kommission und ihre Leitlinien für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.
Modelle mit systemischem Risiko haben vier weitere Pflichten
Anbieter von GPAI-Modellen mit systemischem Risiko müssen diese Pflichten zusätzlich zu den Artikeln 53 und 54 erfüllen (Artikel 55 Absatz 1). Sie müssen außerdem die Kommission innerhalb von zwei Wochen informieren, nachdem das Modell die Bedingung der Fähigkeiten mit hoher Wirkkraft erfüllt oder bekannt wird, dass es sie erfüllen wird (Artikel 52 Absatz 1).
Das Modell bewerten und testen
Bewerten Sie das Modell mit standardisierten Protokollen und Instrumenten, die dem Stand der Technik entsprechen. Dazu gehören Angriffstests (gezielte Angriffe auf das Modell, um Schwächen zu finden) (Artikel 55 Absatz 1 Buchstabe a).
Systemische Risiken bewerten und mindern
Bewerten und mindern Sie mögliche systemische Risiken auf Unionsebene, einschließlich ihrer Ursachen (Artikel 55 Absatz 1 Buchstabe b).
Schwerwiegende Vorfälle melden
Erfassen Sie schwerwiegende Vorfälle, dokumentieren Sie sie mit möglichen Abhilfemaßnahmen und melden Sie sie unverzüglich dem KI-Büro und gegebenenfalls den zuständigen nationalen Behörden (Artikel 55 Absatz 1 Buchstabe c).
Vor Cyberangriffen schützen
Gewährleisten Sie ein angemessenes Maß an Cybersicherheit für das Modell und seine physische Infrastruktur (Artikel 55 Absatz 1 Buchstabe d).
Wer als Anbieter ein KI-System auf einem GPAI-Modell aufbaut, ist nachgelagerter Anbieter
Ein nachgelagerter Anbieter ist Anbieter eines KI-Systems, das ein KI-Modell integriert, gleich ob er das Modell selbst entwickelt hat oder es von einer anderen Einrichtung bezieht (Artikel 3 Nummer 68). Die Pflichten aus Artikel 53 bleiben beim Modellanbieter.
Informationen beim Modellanbieter anfordern
Der Modellanbieter muss Ihnen Informationen über die Fähigkeiten und Grenzen des Modells bereitstellen (Artikel 53 Absatz 1 Buchstabe b). Nutzen Sie sie für Ihre eigene Risikobewertung. Rechte des geistigen Eigentums und Geschäftsgeheimnisse des Anbieters bleiben geschützt. Anbieter freier und quelloffener Modelle ohne systemisches Risiko sind ausgenommen.
Ihr eigenes System wird getrennt eingestuft
Ist Ihr KI-System nach Anhang III ein Hochrisiko-KI-System (Anhang III listet hochriskante Einsatzbereiche, etwa Personalauswahl oder Kreditwürdigkeitsprüfung), müssen Sie als dessen Anbieter ab dem 2. Dezember 2027 die Hochrisiko-Anforderungen erfüllen (Artikel 113). Systeme, die vor diesem Datum in Verkehr gebracht oder in Betrieb genommen wurden, sind nur erfasst, wenn sie danach in ihrer Konzeption erheblich verändert werden; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Die Pflichten des Modellanbieters aus Artikel 53 betreffen das Modell, nicht Ihr System.
Häufige Fragen: API-Nutzung und Anbieter außerhalb der EU
Mache ich mich durch die Nutzung einer API zum GPAI-Anbieter?
Nein. Wer über eine API ein KI-System auf einem GPAI-Modell aufbaut, ist nachgelagerter Anbieter. Die Pflichten aus Artikel 53 bleiben beim Modellanbieter. Wenn Sie ein Modell ändern oder feinabstimmen, kann sich die Antwort ändern: Erwägungsgrund 109 sieht vor, dass die Pflichten des Anbieters auf die Änderung beschränkt sein sollten, und die Leitlinien der Kommission sagen, ab wann eine Änderung erheblich genug ist, um Sie zum Anbieter zu machen. Die Leitlinien sind nicht rechtsverbindlich, und die Auslegung der Kommission kann sich ändern. Ist Ihr System ein Hochrisiko-KI-System, erfüllen Sie als dessen Anbieter die Hochrisiko-Anforderungen.
Was gilt, wenn mein GPAI-Anbieter außerhalb der EU sitzt?
Die Pflichten gelten weiterhin, wenn das Modell in der EU in Verkehr gebracht wird (Artikel 2 Absatz 1 Buchstabe a). Der Anbieter muss vorab einen Bevollmächtigten in der EU benennen, außer das Modell ist frei und quelloffen und hat kein systemisches Risiko (Artikel 54).
Die Einzelheiten zu jeder Pflicht
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.