Artikel 26: Betreiberpflichten für Hochrisiko-KI
Die Betreiberpflichten nach Artikel 26 der KI-Verordnung: wer Betreiber ist, ab wann die Pflichten gelten, wie sie sich von Artikel 27 unterscheiden und welche Geldbußen nach Artikel 99 Absatz 4 drohen.
Betreiber von Hochrisiko-KI-Systemen müssen die Betriebsanleitung befolgen, die menschliche Aufsicht übertragen, den Betrieb überwachen und Protokolle aufbewahren (Artikel 26).
Betreiber ist jede natürliche oder juristische Person, Behörde oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet (Artikel 3 Nummer 4). Die Pflichten gelten auch für Betreiber außerhalb der EU, wenn die Ausgabe in der EU verwendet wird. Sie gelten ab dem 2. Dezember 2027 (Anhang-III-Systeme, aufgelistete Einsatzzwecke wie Personalauswahl) oder ab dem 2. August 2028 (Anhang-I-Systeme). Geldbußen betragen bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Nächster Schritt: Fordern Sie bei jedem Anbieter die Betriebsanleitung an.
Artikel 26 legt 11 Pflichten für Betreiber fest
Die Karten unten fassen Artikel 26 zusammen. Absatz 3 stellt klar, dass diese Pflichten andere Betreiberpflichten nach Unionsrecht oder nationalem Recht unberührt lassen.
System bestimmungsgemäß verwenden
Treffen Sie geeignete technische und organisatorische Maßnahmen, um das System gemäß seiner Betriebsanleitung zu verwenden (Artikel 26 Absatz 1).
Menschliche Aufsicht übertragen
Übertragen Sie die menschliche Aufsicht natürlichen Personen mit der nötigen Kompetenz, Ausbildung und Befugnis und geben Sie ihnen die nötige Unterstützung (Artikel 26 Absatz 2).
Eingabedaten prüfen
Soweit Sie die Eingabedaten kontrollieren, stellen Sie sicher, dass sie für die Zweckbestimmung des Systems relevant und ausreichend repräsentativ sind (Artikel 26 Absatz 4).
Betrieb überwachen und Risiken melden
Überwachen Sie den Betrieb anhand der Betriebsanleitung. Haben Sie Grund zu der Annahme, dass die Nutzung ein Risiko im Sinne des Artikels 79 Absatz 1 birgt, setzen Sie die Nutzung aus und informieren Sie unverzüglich den Anbieter oder Händler und die Marktüberwachungsbehörde. Nach einem schwerwiegenden Vorfall informieren Sie sofort zuerst den Anbieter, dann den Einführer oder Händler und die Marktüberwachungsbehörden. Erreichen Sie den Anbieter nicht, gilt Artikel 73 (Artikel 26 Absatz 5). Diese Pflicht erstreckt sich nicht auf sensible operative Daten von Betreibern, die Strafverfolgungsbehörden sind. Finanzinstitute, für die Anforderungen an die interne Unternehmensführung nach Unionsrecht über Finanzdienstleistungen gelten, erfüllen die Überwachungspflicht durch Einhaltung dieser Vorschriften.
Protokolle aufbewahren
Bewahren Sie die vom System automatisch erzeugten Protokolle auf, soweit sie Ihrer Kontrolle unterliegen, für einen der Zweckbestimmung angemessenen Zeitraum von mindestens sechs Monaten, sofern Unionsrecht oder nationales Recht nichts anderes vorsieht (Artikel 26 Absatz 6). Finanzinstitute führen sie als Teil ihrer Dokumentation nach dem Finanzdienstleistungsrecht.
Arbeitnehmer informieren
Arbeitgeber müssen die Arbeitnehmervertreter und die betroffenen Arbeitnehmer informieren, bevor sie ein Hochrisiko-System in Betrieb nehmen oder am Arbeitsplatz verwenden (Artikel 26 Absatz 7).
Nutzung registrieren (Behörden)
Behörden und Einrichtungen der Union müssen die Registrierungspflichten nach Artikel 49 erfüllen. Ist ein System, das sie einsetzen wollen, nicht in der EU-Datenbank registriert, dürfen sie es nicht verwenden und müssen den Anbieter oder Händler informieren (Artikel 26 Absatz 8).
Anbieterinformationen für die Datenschutz-Folgenabschätzung nutzen
Nutzen Sie gegebenenfalls die Informationen, die der Anbieter nach Artikel 13 bereitstellt, für Ihre Datenschutz-Folgenabschätzung nach Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 (Artikel 26 Absatz 9).
Genehmigung für die nachträgliche biometrische Fernidentifizierung einholen
Bei der gezielten Suche nach einer Person, die einer Straftat verdächtigt wird oder verurteilt wurde, beantragen Sie vor der Nutzung eines Systems zur nachträglichen biometrischen Fernidentifizierung die Genehmigung einer Justizbehörde oder einer Verwaltungsbehörde mit verbindlicher Entscheidung, spätestens aber binnen 48 Stunden. Ausgenommen ist die Erstidentifizierung eines potenziellen Verdächtigen anhand objektiver und überprüfbarer Tatsachen. Eine ungezielte Nutzung ist unzulässig, jede Nutzung wird in der Polizeiakte dokumentiert, und die Behörden erhalten jährliche Berichte (Artikel 26 Absatz 10).
Betroffene Personen informieren
Betreiber von Anhang-III-Systemen, die Entscheidungen über natürliche Personen treffen oder dabei unterstützen, müssen diese Personen darüber informieren, dass das System bei ihnen eingesetzt wird. Für Zwecke der Strafverfolgung gilt Artikel 13 der Richtlinie (EU) 2016/680 (Artikel 26 Absatz 11).
Mit den Behörden zusammenarbeiten
Arbeiten Sie mit den zuständigen Behörden bei allen Maßnahmen zusammen, die diese im Zusammenhang mit dem System zur Durchführung der Verordnung ergreifen (Artikel 26 Absatz 12).
Die Rolle folgt der Nutzung: manche Betreiber werden zu Anbietern
Sie sind Betreiber, wenn Sie ein KI-System in eigener Verantwortung verwenden, gleichgültig, wer es gebaut hat (Artikel 3 Nummer 4). Ein Unternehmen, das ein System baut und selbst nutzt, ist Anbieter und Betreiber zugleich, denn die Inbetriebnahme umfasst auch die Eigennutzung (Artikel 3 Nummer 11).
Ein Betreiber wird in drei Fällen zum Anbieter und übernimmt die Pflichten aus Artikel 16 (Artikel 25 Absatz 1). Er bringt seinen Namen oder seine Marke auf einem Hochrisiko-System an. Er nimmt eine wesentliche Veränderung vor, durch die das System hochriskant bleibt. Oder er ändert die Zweckbestimmung eines Systems so, dass es hochriskant wird. Der ursprüngliche Anbieter muss nicht mit dem neuen Anbieter zusammenarbeiten, wenn er klar angegeben hat, dass sein KI-System nicht in ein Hochrisiko-KI-System umgewandelt werden darf (Artikel 25 Absatz 2).
Artikel 26 und Artikel 27 sind getrennte Pflichten
Artikel 26 gilt für jeden Betreiber eines Hochrisiko-KI-Systems. Artikel 27 fügt nur für bestimmte Betreiber eine Grundrechte-Folgenabschätzung hinzu: Einrichtungen des öffentlichen Rechts, private Einrichtungen, die öffentliche Dienste erbringen, und Betreiber von Systemen zur Kreditwürdigkeitsprüfung oder zur Risikobewertung und Preisgestaltung bei Lebens- und Krankenversicherungen. Artikel 26 selbst enthält keine solche Folgenabschätzung.
Fristen, Grenzen und Geldbußen für Betreiber
Geltungsbeginn
Artikel 26 gilt ab dem 2. Dezember 2027 für Anhang-III-Systeme und ab dem 2. August 2028 für Anhang-I-Systeme (Artikel 113). Ein Hochrisiko-System, das vor dem Geltungsbeginn in Verkehr gebracht wurde, fällt nur darunter, wenn sich seine Konzeption danach erheblich ändert (Artikel 111 Absatz 2). In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).
Wo Artikel 26 nicht gilt
Artikel 26 gilt nicht für Systeme, die Produkte aus Anhang I Abschnitt B betreffen (Artikel 2 Absatz 2), nicht für natürliche Personen, die KI-Systeme im Rahmen einer rein persönlichen, nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10), und nicht für KI-Systeme, die ausschließlich militärischen Zwecken, Verteidigungszwecken oder Zwecken der nationalen Sicherheit dienen (Artikel 2 Absatz 3). Für Produkte aus Anhang I Abschnitt B gelten die Artikel 57, 58 und 59 nur, soweit die Anforderungen an Hochrisiko-KI-Systeme in diese Harmonisierungsrechtsvorschriften der Union integriert wurden.
Geldbußen
Ein Verstoß gegen die Betreiberpflichten aus Artikel 26 kann mit einer Geldbuße von bis zu 15 Mio. EUR oder 3 % des weltweiten Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe e). Für KMU, einschließlich Start-up-Unternehmen, und für kleine Midcap-Unternehmen beträgt die Geldbuße höchstens den niedrigeren der beiden Beträge (Artikel 99 Absätze 6 und 6a).
Wie Scanara Betreiber unterstützt
Scanara führt eine geführte Bewertung der Betreiberpflichten nach Artikel 26 durch, verknüpft sie mit einer Datenschutz-Folgenabschätzung, wenn personenbezogene Daten verarbeitet werden, und hält Nachweise zur Aufbewahrung von Protokollen fest. Gilt Artikel 27, strukturiert eine zweite geführte Bewertung die Grundrechte-Folgenabschätzung. Sie entscheiden, was für Sie gilt, und erfüllen die Pflichten selbst.
Häufige Fragen zu den Betreiberpflichten
Gilt Artikel 26 für KI-Systeme, die nur intern genutzt werden?
Ja. Betreiber ist, wer ein System in eigener Verantwortung verwendet, unabhängig davon, wer es gebaut hat (Artikel 3 Nummer 4). Ein Unternehmen, das ein Hochrisiko-System baut und selbst nutzt, ist Anbieter und Betreiber zugleich, sodass die Artikel 16 und 26 beide gelten. Entwicklung und Tests vor dem Inverkehrbringen oder der Inbetriebnahme fallen nicht unter die Verordnung (Artikel 2 Absatz 8), außer Tests unter Realbedingungen.
Was muss ein Betreiber nach einem schwerwiegenden Vorfall tun?
Ein Betreiber, der einen schwerwiegenden Vorfall feststellt, muss sofort zuerst den Anbieter und dann den Einführer oder Händler und die Marktüberwachungsbehörden informieren (Artikel 26 Absatz 5). Ein schwerwiegender Vorfall ist ein Vorfall oder eine Fehlfunktion, der oder die direkt oder indirekt zum Tod oder zu schwerer Gesundheitsschädigung, zu einer schwerwiegenden und unumkehrbaren Störung kritischer Infrastruktur, zu einem Verstoß gegen grundrechtsschützende Pflichten nach Unionsrecht oder zu schweren Schäden an Eigentum oder Umwelt führt (Artikel 3 Nummer 49). Die Nutzung auszusetzen ist erforderlich, wenn der Betreiber Grund zu der Annahme hat, dass sie ein Risiko im Sinne des Artikels 79 Absatz 1 birgt.
Gibt es für KMU Erleichterungen bei den Betreiberpflichten?
Nein. Artikel 26 kennt keine größenabhängige Ausnahme. KMU, einschließlich Start-up-Unternehmen, und kleine Midcap-Unternehmen müssen höchstens den niedrigeren der beiden Bußgeldbeträge zahlen (Artikel 99 Absätze 6 und 6a). Finanzinstitute, die Unionsvorschriften zur internen Unternehmensführung einhalten, führen die Protokolle als Teil der Dokumentation, die sie nach dem Finanzdienstleistungsrecht pflegen (Artikel 26 Absatz 6).
Die Einzelheiten zu jeder Pflicht
Artikel 27: Grundrechte-Folgenabschätzung
Behandelt, welche Betreiber vor der ersten Nutzung die Auswirkungen auf die Grundrechte bewerten müssen.
Artikel 16: Pflichten der Anbieter
Behandelt die 12 Pflichten der Anbieter, damit Sie wissen, was Sie von Ihrem Anbieter verlangen können.
Artikel 14: Menschliche Aufsicht
Behandelt, wie Anbieter Systeme für die menschliche Aufsicht auslegen müssen, die Ihre beauftragten Mitarbeiter ausüben.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.