Artikel 16: Anbieterpflichten für Hochrisiko-KI
Die 12 Anbieterpflichten nach Artikel 16 der KI-Verordnung: wer Anbieter ist, ab wann die Pflichten gelten und welche Geldbußen nach Artikel 99 Absatz 4 drohen.
Anbieter von Hochrisiko-KI-Systemen müssen die 12 Pflichten aus Artikel 16 erfüllen, vom Qualitätsmanagement bis zur CE-Kennzeichnung.
Das gilt für Anbieter, die ein solches System in der EU in Verkehr bringen, unabhängig von ihrem Sitz. Die Pflichten gelten ab dem 2. Dezember 2027 für Anhang-III-Systeme (aufgelistete Einsatzzwecke wie Personalauswahl). Für Anhang-I-Systeme (KI in Produkten, die unter bestimmte EU-Sicherheitsvorschriften fallen) gelten sie ab dem 2. August 2028. Verstöße können mit Geldbußen von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Nächster Schritt: Prüfen Sie jede Pflicht unten an Ihrem System.
Ein Anbieter muss 12 Pflichten erfüllen
Die Buchstaben a bis l folgen den Buchstaben von Artikel 16.
Anforderungen aus Abschnitt 2 erfüllen
Das System muss die Anforderungen aus Abschnitt 2 (Artikel 8 bis 15) erfüllen: Risikomanagement, Daten-Governance, technische Dokumentation, Aufzeichnungspflichten, Transparenz, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit.
Namen und Kontaktanschrift angeben
Bringen Sie Ihren Namen, Ihren eingetragenen Handelsnamen oder Ihre eingetragene Marke und Ihre Kontaktanschrift auf dem System an. Ist das nicht möglich, bringen Sie sie auf der Verpackung oder in den Begleitunterlagen an.
Ein Qualitätsmanagementsystem betreiben
Richten Sie ein Qualitätsmanagementsystem ein, das Artikel 17 entspricht. Es muss in Form schriftlicher Strategien, Verfahren und Anweisungen dokumentiert sein.
Dokumentation 10 Jahre aufbewahren
Bewahren Sie die in Artikel 18 genannten Unterlagen 10 Jahre lang auf, nachdem das System in Verkehr gebracht oder in Betrieb genommen wurde. Dazu zählen die technische Dokumentation, die Dokumentation zum Qualitätsmanagementsystem und die EU-Konformitätserklärung.
Automatisch erzeugte Protokolle aufbewahren
Bewahren Sie die vom System automatisch erzeugten Protokolle auf, soweit sie Ihrer Kontrolle unterliegen (Artikel 19). Die Aufbewahrungsdauer richtet sich nach der Zweckbestimmung und beträgt mindestens sechs Monate, sofern Unionsrecht oder nationales Recht nichts anderes vorsieht.
Konformitätsbewertung durchführen
Stellen Sie sicher, dass das System das Konformitätsbewertungsverfahren nach Artikel 43 durchläuft, bevor Sie es in Verkehr bringen oder in Betrieb nehmen.
EU-Konformitätserklärung ausstellen
Stellen Sie eine EU-Konformitätserklärung nach Artikel 47 aus.
CE-Kennzeichnung anbringen
Bringen Sie die CE-Kennzeichnung nach Artikel 48 am System an. Ist das nicht möglich, bringen Sie sie auf der Verpackung oder in den Begleitunterlagen an.
System in der EU-Datenbank registrieren
Erfüllen Sie die Registrierungspflichten nach Artikel 49 Absatz 1: Registrieren Sie sich und das System in der EU-Datenbank, bevor Sie es in Verkehr bringen oder in Betrieb nehmen. Artikel 49 Absatz 1 erfasst Anhang-III-Systeme mit Ausnahme von Nummer 2 (kritische Infrastruktur).
Korrekturmaßnahmen ergreifen
Halten Sie das System für nicht konform, ergreifen Sie sofort die Korrekturmaßnahmen nach Artikel 20: Stellen Sie die Konformität her, nehmen Sie das System vom Markt, deaktivieren Sie es oder rufen Sie es zurück. Informieren Sie die Händler und gegebenenfalls die Betreiber, den Bevollmächtigten und die Einführer.
Konformität auf Anfrage nachweisen
Verlangt eine nationale zuständige Behörde dies mit einer begründeten Anfrage, weisen Sie nach, dass das System die Anforderungen aus Abschnitt 2 erfüllt.
Barrierefreiheitsanforderungen erfüllen
Stellen Sie sicher, dass das System die Barrierefreiheitsanforderungen der Richtlinien (EU) 2016/2102 und (EU) 2019/882 erfüllt.
Anbieter ist, wer das System unter eigenem Namen in Verkehr bringt
Anbieter ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3).
Ein Betreiber, Einführer, Händler oder sonstiger Dritter wird in drei Fällen selbst zum Anbieter (Artikel 25 Absatz 1). Er bringt seinen Namen oder seine Marke auf einem bereits in Verkehr gebrachten Hochrisiko-System an. Er nimmt eine wesentliche Veränderung vor, durch die das System hochriskant bleibt. Oder er ändert die Zweckbestimmung eines nicht hochriskanten Systems so, dass es hochriskant wird.
Der neue Anbieter übernimmt die Pflichten aus Artikel 16. Der ursprüngliche Anbieter gilt für dieses System nicht mehr als Anbieter und muss mit dem neuen Anbieter zusammenarbeiten (Artikel 25 Absatz 2). Das gilt nicht, wenn der ursprüngliche Anbieter klar angegeben hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf. Anbieter und Dritte, die Komponenten, Werkzeuge oder Modelle für das System liefern, müssen schriftlich vereinbaren, welche Informationen und welchen technischen Zugang der Anbieter braucht (Artikel 25 Absatz 4). Frei zugängliche Open-Source-Werkzeuge sind ausgenommen, nicht aber KI-Modelle mit allgemeinem Verwendungszweck.
Anbieter und Betreiber haben getrennte Pflichten
Fristen, Grenzen und Geldbußen für Anbieter
Geltungsbeginn
Artikel 16 gilt ab dem 2. Dezember 2027 für Anhang-III-Systeme und ab dem 2. August 2028 für Anhang-I-Systeme (Artikel 113). Ein Hochrisiko-System, das vor dem Geltungsbeginn in Verkehr gebracht wurde, fällt nur darunter, wenn sich seine Konzeption danach erheblich ändert (Artikel 111 Absatz 2). In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).
Wo Artikel 16 nicht gilt
Für Systeme, die Produkte aus Anhang I Abschnitt B betreffen (Rechtsvorschriften unter anderem zu Maschinen, Kraftfahrzeugen, Schienenverkehr und Zivilluftfahrt), gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112. Artikel 16 gilt für sie nicht (Artikel 2 Absatz 2). Ausgenommen sind außerdem KI-Systeme, die ausschließlich militärischen Zwecken, Verteidigungszwecken oder Zwecken der nationalen Sicherheit dienen (Artikel 2 Absatz 3). Für Produkte aus Anhang I Abschnitt B gelten die Artikel 57, 58 und 59 nur, soweit die Anforderungen an Hochrisiko-KI-Systeme in diese Harmonisierungsrechtsvorschriften der Union integriert wurden.
Geldbußen
Ein Verstoß gegen die Anbieterpflichten aus Artikel 16 kann mit einer Geldbuße von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe a). Für KMU, einschließlich Start-up-Unternehmen, und für kleine Midcap-Unternehmen beträgt die Geldbuße höchstens den niedrigeren der beiden Beträge (Artikel 99 Absätze 6 und 6a).
Wie Scanara bei den Anbieterpflichten unterstützt
Scanara führt Sie durch Bewertungen zum Qualitätsmanagementsystem (Artikel 17), zur Wertschöpfungskette (Artikel 25) und zur Vorbereitung der Konformitätsbewertung (Artikel 43). Aus Ihren Antworten und Repository-Scans entwirft Scanara die technische Dokumentation (Anhang IV) und die EU-Konformitätserklärung (Anhang V). Sie prüfen und entscheiden. Scanara strukturiert die Nachweise für die Registrierung, die Registrierung selbst nehmen Sie vor.
Häufige Fragen zu den Anbieterpflichten
Was passiert, wenn ein Anbieter eine Pflicht aus Artikel 16 verletzt?
Dem Anbieter kann eine Geldbuße von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes drohen, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe a). Für KMU, einschließlich Start-up-Unternehmen, und kleine Midcap-Unternehmen beträgt die Geldbuße höchstens den niedrigeren Betrag (Artikel 99 Absätze 6 und 6a). Die Mitgliedstaaten legen die Sanktionsregeln fest, und die zuständigen nationalen Behörden oder Gerichte verhängen die Geldbußen (Artikel 99 Absätze 1 und 9). Sie berücksichtigen Art, Schwere und Dauer des Verstoßes sowie die Größe des Akteurs (Artikel 99 Absatz 7).
Bin ich Anbieter, wenn ich auf einem Modell eines Dritten aufbaue?
Ja, wenn Sie das Hochrisiko-KI-System unter Ihrem eigenen Namen in Verkehr bringen (Artikel 3 Nummer 3). Der Modellanbieter behält seine eigenen Pflichten für ein KI-Modell mit allgemeinem Verwendungszweck (Artikel 53 und 55), sie ersetzen Ihre Pflichten aus Artikel 16 nicht. Sie und der Lieferant müssen schriftlich vereinbaren, welche Informationen und welchen technischen Zugang Sie brauchen (Artikel 25 Absatz 4). Frei zugängliche Open-Source-Werkzeuge sind davon ausgenommen, nicht aber KI-Modelle mit allgemeinem Verwendungszweck.
Ab wann gelten die Pflichten aus Artikel 16?
Sie gelten ab dem 2. Dezember 2027 für Anhang-III-Systeme und ab dem 2. August 2028 für Anhang-I-Systeme (Artikel 113 in der durch die Verordnung (EU) 2026/1744 geänderten Fassung). Ein System, das vor diesem Datum bereits in Verkehr war, fällt nur unter die Verordnung, wenn sich seine Konzeption danach erheblich ändert (Artikel 111 Absatz 2). In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).
Die Einzelheiten zu jeder Pflicht
Artikel 17: Qualitätsmanagementsystem
Behandelt die 13 Punkte, die das Qualitätsmanagementsystem eines Anbieters abdecken muss.
Artikel 11: Technische Dokumentation
Behandelt die technische Dokumentation, die ein Anbieter erstellen und aktuell halten muss.
Artikel 26: Pflichten der Betreiber
Behandelt die Pflichten von Organisationen, die Hochrisiko-KI-Systeme nutzen.
Artikel 6: Wann ein KI-System hochriskant ist
Erklärt die zwei Wege, auf denen ein KI-System als hochriskant gilt.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.