Anfragen des KI-Büros zu Unterlagen und Modellzugang (Art. 91 und 92)
KI-Büro und GPAI: So laufen Anfragen zu Unterlagen (Art. 91) und Modellzugang (Art. 92) ab, was Geldbußen nach Art. 101 abdecken und was bereitliegen muss.
Wichtigste Erkenntnisse
- 1.Die Kommission handelt über das Büro für Künstliche Intelligenz (KI-Büro). Sie kann bei Anbietern von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) Dokumentation (Art. 91) und Modellzugang (Art. 92) anfordern. Die Befugnisse gelten ab dem 2. August 2026 (Art. 113).
- 2.Jede Anfrage (im Gesetz: Informationsersuchen) muss ihre Rechtsgrundlage, ihren Zweck, eine Frist und die Geldbußen nach Artikel 101 nennen (Art. 91 Abs. 4, Art. 92 Abs. 4).
- 3.Die Geldbußen dürfen 3 % des gesamten weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr oder 15 000 000 EUR nicht übersteigen. Es gilt der höhere Betrag (Art. 101 Abs. 1).
- 4.Nächster Schritt: Legen Sie fest, wer Anfragen beantwortet. Halten Sie Ihre Dokumentation nach Artikel 53 (Grundpflichten) und Artikel 55 (Pflichten für Modelle mit systemischem Risiko) bereit.
Dieser Artikel richtet sich an Anbieter von GPAI-Modellen und an nachgelagerte Anbieter, also Unternehmen, die KI-Systeme auf einem GPAI-Modell aufbauen. Diese Modelle weisen eine erhebliche allgemeine Verwendbarkeit auf und können ein breites Spektrum unterschiedlicher Aufgaben kompetent erfüllen (Art. 3 Nr. 63). Modelle, die nur vor ihrem Inverkehrbringen für Forschung, Entwicklung oder Prototyping genutzt werden, sind ausgenommen (Art. 3 Nr. 63).
Die Kommission handelt über das KI-Büro, dem sie die Durchsetzung der GPAI-Vorschriften überträgt (Art. 88 Abs. 1). Die Artikel 91 und 92 betreffen das GPAI-Modell und seinen Anbieter. Sie betreffen nicht KI-Systeme, die andere Unternehmen auf dem Modell aufbauen. Modelle, die vor dem 2. August 2025 auf dem EU-Markt in Verkehr gebracht wurden, haben bis zum 2. August 2027 Zeit. Das gilt für die nötigen Schritte zur Einhaltung (Art. 111 Abs. 3).
Artikel 53 (Grundpflichten) nimmt Modelle unter einer freien und quelloffenen Lizenz teilweise aus. Das gilt nicht, wenn sie ein systemisches Risiko bergen (Art. 53 Abs. 2). Ein systemisches Risiko ist ein Risiko, das für die Fähigkeiten mit hoher Wirkkraft von GPAI-Modellen spezifisch ist. Es hat erhebliche Auswirkungen auf den EU-Markt (Art. 3 Nr. 65).
Zuerst kamen die GPAI-Pflichten, ein Jahr später die Durchsetzungsbefugnisse
Die GPAI-Pflichten aus Kapitel V gelten seit dem 2. August 2025 (Art. 113). Nach Artikel 113 Buchstabe b gelten Kapitel III Abschnitt 4, Kapitel V, Kapitel VII, Kapitel XII und Artikel 78 ab dem 2. August 2025. Ausgenommen ist Artikel 101. Kapitel IX (Artikel 72 bis 94) steht nicht auf dieser Liste, außer Artikel 78 (Vertraulichkeit), der in Kapitel IX steht. Daher gelten die Artikel 88 bis 94 ab dem 2. August 2026 (Art. 113). Die Geldbußen nach Artikel 101 gelten ab dem 2. August 2026 (Art. 113). Überwachung und Durchsetzung von Kapitel V, dem GPAI-Kapitel, liegen ausschließlich bei der Kommission (Art. 88 Abs. 1). Nationale Marktüberwachungsbehörden können die Kommission ersuchen, ihre Befugnisse auszuüben, wenn dies erforderlich und verhältnismäßig ist (Art. 88 Abs. 2). Jeder Anbieter eines GPAI-Modells kann eine Anfrage nach Artikel 91 erhalten (Art. 91 Abs. 1).
Zwei Instrumente: eine Dokumentationsanfrage nach Artikel 91, Modellzugang nach Artikel 92
Eine Anfrage nach Artikel 91 muss Rechtsgrundlage, Zweck und Frist nennen
Nach Artikel 91 kann das KI-Büro Ihre Dokumentation nach den Artikeln 53 und 55 anfordern. Es kann auch alle weiteren Informationen anfordern, die es zur Bewertung der Einhaltung braucht (Art. 91 Abs. 1). Das KI-Büro kann einen strukturierten Dialog einleiten, ein Gespräch vor dem Versand einer Anfrage (Art. 91 Abs. 2). Eine Anfrage muss:
- ihre Rechtsgrundlage und ihren Zweck nennen;
- angeben, welche Informationen sie von Ihnen braucht;
- eine Frist für die Bereitstellung setzen;
- auf die Geldbußen nach Artikel 101 für unrichtige, unvollständige oder irreführende Informationen hinweisen (Art. 91 Abs. 4).
Der Anbieter oder sein Vertreter übermittelt die Informationen (Art. 91 Abs. 5). Bevollmächtigte Rechtsanwälte dürfen im Namen ihrer Mandanten antworten, doch die Mandanten bleiben voll verantwortlich, wenn die Antwort unvollständig, unrichtig oder irreführend ist (Art. 91 Abs. 5). Das wissenschaftliche Gremium unabhängiger Sachverständiger (Art. 68) kann eine Anfrage anstoßen. Das wissenschaftliche Gremium muss seine Anfrage begründen, und die Informationen müssen für die Aufgaben des Gremiums erforderlich und verhältnismäßig sein (Art. 91 Abs. 3).
Eine Bewertung nach Artikel 92 kann den Zugang zum Modell über APIs oder den Quellcode umfassen
Das KI-Büro kann Zugang zum Modell über APIs oder weitere geeignete technische Mittel und Werkzeuge verlangen, einschließlich des Quellcodes (Art. 92 Abs. 3). Nach Anhörung des Europäischen Gremiums für Künstliche Intelligenz (KI-Gremium) kann es ein GPAI-Modell in zwei Fällen bewerten (Art. 92 Abs. 1):
- um die Einhaltung zu bewerten, wenn die nach Artikel 91 gesammelten Informationen nicht ausreichen;
- um systemische Risiken auf EU-Ebene bei Modellen mit systemischem Risiko zu untersuchen.
Als besonderen Auslöser für den zweiten Fall nennt die KI-Verordnung eine qualifizierte Warnung des wissenschaftlichen Gremiums (Art. 92 Abs. 1 Buchst. b). Die Kommission kann unabhängige Sachverständige benennen, die Bewertungen in ihrem Namen durchführen (Art. 92 Abs. 2). Sie müssen die Kriterien in Artikel 68 Absatz 2 erfüllen. Eine Zugangsanfrage nennt Rechtsgrundlage, Zweck und Gründe. Sie setzt auch die Frist für den Zugang und benennt die Geldbußen nach Artikel 101 für den Fall, dass kein Zugang gewährt wird (Art. 92 Abs. 4). Vor einer Zugangsanfrage kann das KI-Büro einen strukturierten Dialog führen (Art. 92 Abs. 7). Der Dialog betrifft interne Tests, interne Schutzvorkehrungen gegen systemische Risiken und andere interne Verfahren.
Die Kommission kann Maßnahmen verlangen, und es gelten Verfahrensgarantien
Nach Artikel 93 kann die Kommission von einem Anbieter drei Arten von Maßnahmen verlangen (Art. 93 Abs. 1). Sie kann verlangen, dass der Anbieter die Artikel 53 und 54 einhält (Art. 93 Abs. 1 Buchst. a). Hat eine Bewertung nach Artikel 92 ernsthafte und begründete Bedenken wegen eines systemischen Risikos auf EU-Ebene ergeben, kann sie Maßnahmen zur Risikominderung verlangen (Art. 93 Abs. 1 Buchst. b). Davon getrennt kann sie verlangen, dass der Anbieter die Bereitstellung des Modells auf dem Markt einschränkt, es zurücknimmt oder zurückruft (Art. 93 Abs. 1 Buchst. c). Der Anbieter eines GPAI-Modells mit systemischem Risiko kann Verpflichtungszusagen anbieten. Die Kommission kann sie für bindend erklären (Art. 93 Abs. 3). Vor jeder Geldbuße teilt die Kommission ihre vorläufige Beurteilung mit. Sie gibt Ihnen Gelegenheit zur Stellungnahme (Art. 101 Abs. 2). Behörden müssen vertrauliche Geschäftsinformationen und Geschäftsgeheimnisse schützen (Art. 78 Abs. 1). Sie müssen Daten löschen, sobald sie nicht mehr benötigt werden (Art. 78 Abs. 2). Informationen, die Sie nach Artikel 53 übermitteln, bleiben nach Artikel 78 vertraulich (Art. 53 Abs. 7).
Eine Geldbuße nach Artikel 101 hat zwei Obergrenzen, vier Gründe und eine gerichtliche Kontrolle
Artikel 101 Absatz 1 begrenzt Geldbußen auf 3 % des gesamten weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr oder 15 000 000 EUR, je nachdem, welcher Betrag höher ist. Die Kommission kann gegen einen Anbieter eines GPAI-Modells, der vorsätzlich oder fahrlässig gehandelt hat, eine Geldbuße verhängen (Art. 101 Abs. 1). Die KI-Verordnung nennt vier Gründe:
- Verstoß gegen die einschlägigen Bestimmungen der KI-Verordnung (Art. 101 Abs. 1 Buchst. a);
- Nichtbefolgung einer Anfrage nach Artikel 91 oder Übermittlung unrichtiger, unvollständiger oder irreführender Informationen (Art. 101 Abs. 1 Buchst. b);
- Nichtbefolgung einer Maßnahme nach Artikel 93 (Art. 101 Abs. 1 Buchst. c);
- Nichtgewährung des Zugangs der Kommission zum Modell für eine Bewertung nach Artikel 92 (Art. 101 Abs. 1 Buchst. d).
Geldbußen müssen wirksam, verhältnismäßig und abschreckend sein (Art. 101 Abs. 3). Bei der Festsetzung der Höhe berücksichtigt die Kommission Art, Schwere und Dauer des Verstoßes (Art. 101). Sie berücksichtigt Zusagen nach Artikel 93 Absatz 3 und einschlägige Praxisleitfäden (Art. 101). Der Gerichtshof der Europäischen Union hat die unbeschränkte Befugnis zur Überprüfung und kann die Geldbuße aufheben, herabsetzen oder erhöhen (Art. 101 Abs. 5).
Ältere Modelle haben bis zum 2. August 2027 Zeit, und Artikel 111 Absatz 3 nennt keine Folge für Geldbußen
Artikel 111 Absatz 3 gibt Modellen, die vor dem 2. August 2025 in Verkehr gebracht wurden, bis zum 2. August 2027 Zeit zur Einhaltung.
Die Leitlinien der Kommission für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck nennen dasselbe Datum für diese älteren Modelle. Artikel 111 Absatz 3 sagt nicht, ob Geldbußen nach Artikel 101 vor dem 2. August 2027 gegen ein solches Modell verhängt werden können. Zuerst entscheidet die Kommission; der Gerichtshof kann ihre Entscheidungen über Geldbußen überprüfen (Art. 101 Abs. 5).
Anbieter sollten sieben Dinge für eine Anfrage bereithalten
- Sorgen Sie dafür, dass Ihre technische Dokumentation nach Artikel 53 vollständig ist, mit den Inhalten, die Anhang XI aufführt. Das gilt nicht, wenn Artikel 53 Absatz 2 Ihr Open-Source-Modell ausnimmt. Anhang XI ist die technische Dokumentation, die die KI-Verordnung für GPAI-Modelle auflistet.
- Halten Sie die Informationen für nachgelagerte Anbieter nach Artikel 53 Absatz 1 Buchstabe b bereit, mit den Inhalten, die Anhang XII aufführt, sofern nicht dieselbe Ausnahme gilt.
- Bewahren Sie Aufzeichnungen über interne Tests und interne Schutzvorkehrungen gegen systemische Risiken auf (Art. 92 Abs. 7). Das KI-Büro kann in einem strukturierten Dialog danach fragen.
- Benennen Sie die Person, die Antworten freigibt. Legen Sie fest, welche bevollmächtigten Rechtsanwälte für Sie antworten dürfen (Art. 91 Abs. 5).
- Sorgen Sie dafür, dass jede Anfrage noch am Eingangstag bei dieser Person landet. Die Anfrage setzt die Frist für die Antwort (Art. 91 Abs. 4). Die Nichtbefolgung ist ein Grund für eine Geldbuße (Art. 101 Abs. 1 Buchst. b).
- Planen Sie den Modellzugang im Voraus: welche Umgebung, welche Werkzeuge und welche Personen eine Bewertung unterstützen könnten (Art. 92 Abs. 3). Die Nichtgewährung des Zugangs ist ein Grund für eine Geldbuße (Art. 101 Abs. 1 Buchst. d).
- Kennzeichnen Sie vertrauliches Material in der Dokumentation, die Sie übergeben. Artikel 78 hält Informationen, die Sie nach Artikel 53 übermitteln, vertraulich (Art. 53 Abs. 7).
Wenn Sie auf einem KI-Modell mit allgemeinem Verwendungszweck aufbauen: Halten Sie die Dokumentation des Anbieters bereit und kennen Sie Ihr Beschwerderecht
Als nachgelagerter Anbieter haben Sie ein Recht auf Dokumentation und ein Beschwerderecht. Artikel 53 Absatz 1 Buchstabe b verpflichtet den Modellanbieter, Anbietern von KI-Systemen, die das Modell integrieren wollen, Dokumentation zur Verfügung zu stellen. Fordern Sie diese Dokumentation schriftlich an und legen Sie sie bei Ihren eigenen technischen Unterlagen ab. Halten Sie fest, welches Modell und welche Version jedes Ihrer KI-Systeme nutzt. Wenn Sie glauben, dass der Modellanbieter gegen die KI-Verordnung verstößt, haben Sie das Recht, eine Beschwerde einzureichen (Art. 89).
So hilft Scanara: Es ordnet die Nachweise nach Artikel 53 und 55, die eine Anfrage verlangen würde
Die geführte Bewertung für GPAI-Anbieter in Scanara deckt die Artikel 53 bis 55 ab. Sie erstellt Entwürfe der Dokumentation nach Anhang XI und Anhang XII, die Sie prüfen und vervollständigen. Ein Dokumentenscan prüft Ihre Dokumente auf die Inhalte, die Artikel 53 verlangt. Scanara führt Ihre Modelltests oder Red-Teaming nicht durch. Es dokumentiert die Tests, die Sie durchführen. Die Analysemodule von Scanara sind regelbasiert. Scanara beantwortet keine Anfrage für Sie. Sie entscheiden, was Sie senden, und ziehen dabei Rechtsbeistand hinzu, wenn viel auf dem Spiel steht.
Weiterführende Lektüre
Quellen & Referenzen
- Article 3, AI Act (Service Desk)
- Article 53, AI Act (Service Desk)
- Article 54, AI Act (Service Desk)
- Article 55, AI Act (Service Desk)
- Article 68, AI Act (Service Desk)
- Article 78, AI Act (Service Desk)
- Article 88, AI Act (Service Desk)
- Article 89, AI Act (Service Desk)
- Article 91, AI Act (Service Desk)
- Article 92, AI Act (Service Desk)
- Article 93, AI Act (Service Desk)
- Article 101, AI Act (Service Desk)
- Article 111, AI Act (Service Desk)
- Article 113, AI Act (Service Desk)
- European Commission, guidelines for providers of general-purpose AI models (published 18 July 2025)
Häufig gestellte Fragen
Kann die Kommission einen Anbieter mit einer Geldbuße belegen, der eine Anfrage nach Artikel 91 ignoriert?
Ja, wenn der Anbieter vorsätzlich oder fahrlässig gehandelt hat (Art. 101 Abs. 1 Buchst. b), bis zur Obergrenze nach Artikel 101 Absatz 1.
Bedeutet eine Anfrage nach Artikel 91, dass das KI-Büro Zugang zu meinem Modell erhält?
Nein. Artikel 91 betrifft Dokumentation und Informationen, der Modellzugang fällt unter Artikel 92 (Art. 91 Abs. 1, Art. 92 Abs. 3).
Richtet sich eine Anfrage des KI-Büros an einen nachgelagerten Anbieter, etwa ein SaaS-Unternehmen, das ein KI-System auf dem GPAI-Modell eines anderen Unternehmens aufbaut?
Nein, Anfragen nach den Artikeln 91 und 92 gehen an den Anbieter des GPAI-Modells (Art. 91 Abs. 1). Der nachgelagerte Anbieter hat das Recht auf Dokumentation nach Artikel 53 Absatz 1 Buchstabe b und das Beschwerderecht nach Artikel 89.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.