Skip to main content

Artikel 26 für autonome Systeme: Pflichten der Betreiber

Wie Artikel 26 (Pflichten der Betreiber) für Betreiber autonomer Systeme gilt: Anhang I Abschnitt A und B, Anhang III Nummer 2, Aufsicht, Protokolle, Vorfälle, Artikel 27 und 86, Termine und Geldbußen.

Betreiber von Hochrisiko-KI-Systemen müssen die Betriebsanleitung befolgen, die menschliche Aufsicht übertragen, den Betrieb überwachen und Protokolle aufbewahren (Artikel 26).

„Autonome Systeme“ ist keine Kategorie der Verordnung. Artikel 26 bindet Betreiber von Systemen nach Anhang III Nummer 2 ab dem 2. Dezember 2027 und von Produkten nach Anhang I Abschnitt A ab dem 2. August 2028. Er gilt nicht für Systeme in Produkten nach Anhang I Abschnitt B wie Fahrzeugen oder Maschinen (Artikel 2 Absatz 2). Geldbußen betragen bis zu 15 Mio. EUR oder, bei Unternehmen, 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Nächster Schritt: Holen Sie bei jedem Anbieter die Betriebsanleitung ein.

Artikel 26 verlangt von Betreibern: verwenden, beaufsichtigen, überwachen, protokollieren

Artikel 26 legt diese Pflichten für Betreiber von Hochrisiko-KI-Systemen fest.

  • Art. 26(1)
    Nach der Betriebsanleitung verwenden

    Geeignete technische und organisatorische Maßnahmen ergreifen, um das System gemäß der Betriebsanleitung zu verwenden.

  • Art. 26(2)
    Menschliche Aufsicht zuweisen

    Die menschliche Aufsicht natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis sowie die nötige Unterstützung verfügen.

  • Art. 26(4)
    Eingabedaten prüfen

    Soweit der Betreiber die Kontrolle über die Eingabedaten ausübt, sicherstellen, dass sie der Zweckbestimmung entsprechen und ausreichend repräsentativ sind.

  • Art. 26(5)
    Überwachen, informieren, aussetzen

    Den Betrieb anhand der Betriebsanleitung überwachen und gegebenenfalls die Anbieter informieren. Kann die Nutzung gemäß der Betriebsanleitung ein Risiko im Sinne von Artikel 79 Absatz 1 bergen, unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde informieren und die Nutzung aussetzen. Nach einem schwerwiegenden Vorfall sofort zuerst den Anbieter, dann den Einführer oder Händler und die Marktüberwachungsbehörden informieren. Ist der Anbieter nicht erreichbar, gilt Artikel 73 entsprechend.

  • Art. 26(6)
    Protokolle aufbewahren

    Die vom System automatisch erzeugten Protokolle aufbewahren, soweit sie der Kontrolle des Betreibers unterliegen, für einen der Zweckbestimmung angemessenen Zeitraum von mindestens sechs Monaten, sofern im Unionsrecht oder im nationalen Recht, insbesondere zum Schutz personenbezogener Daten, nichts anderes bestimmt ist.

  • Art. 26(7)
    Beschäftigte informieren

    Arbeitgeber müssen die Arbeitnehmervertreter und die betroffenen Beschäftigten, bevor sie ein Hochrisiko-KI-System am Arbeitsplatz in Betrieb nehmen oder verwenden, darüber informieren, dass sie der Verwendung des Systems unterliegen werden. Die Information erfolgt, soweit zutreffend, nach den Regeln und Verfahren des Unionsrechts und des nationalen Rechts und der nationalen Praxis zur Information von Arbeitnehmern und ihren Vertretern.

  • Art. 26(8)
    Behörden registrieren

    Betreiber, die Behörden oder Organe, Einrichtungen oder sonstige Stellen der Union sind, müssen die Registrierungspflichten nach Artikel 49 erfüllen. Stellen sie fest, dass ein Hochrisiko-KI-System, dessen Einsatz sie beabsichtigen, nicht in der EU-Datenbank nach Artikel 71 registriert ist, dürfen sie es nicht verwenden und müssen den Anbieter oder Händler informieren. Zu Systemen nach Anhang III Nummer 2 siehe die Zeile zur Registrierung weiter unten.

  • Art. 26(9)
    Datenschutz-Folgenabschätzung

    Gegebenenfalls die vom Anbieter nach Artikel 13 bereitgestellten Informationen für die Datenschutz-Folgenabschätzung nach Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 nutzen.

  • Art. 26(11)
    Von Entscheidungen betroffene Personen informieren

    Bei Systemen nach Anhang III, die Entscheidungen über natürliche Personen treffen oder dabei unterstützen, diese Personen darüber informieren, dass sie dem System ausgesetzt sind, unbeschadet des Artikels 50.

  • Art. 26(12)
    Mit Behörden zusammenarbeiten

    Mit den zuständigen Behörden bei allen Maßnahmen zusammenarbeiten, die diese in Bezug auf das Hochrisiko-KI-System ergreifen.

Wie Artikel 26 für Betreiber autonomer Systeme gilt

Artikel 26 bindet nur Betreiber von Hochrisiko-KI-Systemen. Die Zeilen unten zeigen, welche autonomen Systeme er erreicht und welche weiteren Vorschriften Betreiber und Behörden betreffen.

  • „Autonome Systeme“ ist keine Kategorie der Verordnung

    Die Verordnung kennt keine Kategorie „autonome Systeme“; ihre Definition eines KI-Systems verweist auf einen Betrieb mit unterschiedlichen Graden der Autonomie (Artikel 3 Nummer 1). Diese Website verwendet den Begriff für KI in Fahrzeugen, Drohnen, Robotern und Maschinen sowie für KI, die den Straßenverkehr steuern hilft. Solche KI kann über drei Wege hochriskant sein, und der Weg entscheidet, welche Hochrisiko-Vorschriften gelten: Anhang I Abschnitt B (Artikel 2 Absatz 2 beschränkt die Vorschriften auf wenige Artikel), Anhang I Abschnitt A (die Anforderungen des Kapitels III ab dem 2. August 2028, wenn das System nach Artikel 6 Absatz 1 hochriskant ist) und Anhang III Nummer 2 (die Anforderungen des Kapitels III ab dem 2. Dezember 2027). Andere Vorschriften hängen nicht vom Weg ab: die Artikel 4 und 5, Artikel 50, Artikel 53 für Modellanbieter und die übrigen Nummern des Anhangs III. Artikel 2 Absatz 2 beschränkt nur KI-Systeme, die nach Artikel 6 Absatz 1 hochriskant sind und Produkte nach Abschnitt B betreffen. Bestimmen Sie zuerst Ihren Hochrisiko-Weg.

  • Fahrzeuge, Luftfahrzeuge, Eisenbahn, Schiffsausrüstung und Maschinen: Anhang I Abschnitt B

    Abschnitt B von Anhang I nennt unter anderem Kraftfahrzeuge (Verordnungen (EU) 2018/858 und (EU) 2019/2144), zwei- oder dreirädrige Fahrzeuge (Verordnung (EU) Nr. 168/2013), land- und forstwirtschaftliche Fahrzeuge (Verordnung (EU) Nr. 167/2013), das Eisenbahnsystem (Richtlinie (EU) 2016/797), Schiffsausrüstung (Richtlinie 2014/90/EU), unbemannte Luftfahrzeuge sowie deren Motoren, Propeller, Teile und Ausrüstung zur Fernsteuerung, soweit die Verordnung (EU) 2018/1139 sie erfasst, und Maschinen (Verordnung (EU) 2023/1230, durch die Verordnung (EU) 2026/1744 von Abschnitt A nach Abschnitt B verschoben). Für ein KI-System, das nach Artikel 6 Absatz 1 hochriskant ist und ein solches Produkt betrifft, gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112 (Artikel 2 Absatz 2); die Artikel 57, 58 und 59 gelten nur, soweit die Anforderungen an Hochrisiko-KI-Systeme in jene Harmonisierungsrechtsvorschriften der Union aufgenommen wurden. Die Artikel 9 bis 15, 17 und 26 gehören nicht dazu. Stattdessen fügen die Artikel 102 bis 109 acht dieser Rechtsakte eine Regel hinzu, nach der die Kommission die Anforderungen aus Kapitel III Abschnitt 2 berücksichtigt, wenn sie die dort genannten Rechtsakte für KI-Systeme erlässt. Für Maschinen verpflichtet Artikel 3 Nummer 1 der Verordnung (EU) 2026/1744 die Kommission, delegierte Rechtsakte zu erlassen, die Gesundheits- und Sicherheitsanforderungen für solche KI-Systeme hinzufügen und dabei Kapitel III Abschnitt 2 sowie die Artikel 17, 19, 72 und 73 widerspiegeln; diese Rechtsakte sollen spätestens ab dem 2. August 2028 gelten.

  • Produkte nach Abschnitt A und Anhang III Nummer 2: Kapitel III gilt

    Zwei Anknüpfungspunkte lösen die Anforderungen des Kapitels III aus. Erstens ist ein KI-System nach Artikel 6 Absatz 1 hochriskant, wenn es als Sicherheitsbauteil eines unter Rechtsvorschriften des Anhangs I fallenden Produkts verwendet werden soll oder selbst ein solches Produkt ist und dieses Produkt nach diesen Rechtsvorschriften einer Konformitätsbewertung durch Dritte unterzogen werden muss. Abschnitt A (Nummern 2 bis 12) erfasst zum Beispiel Aufzüge, Seilbahnen, Sportboote und Medizinprodukte; für solche Systeme gilt Kapitel III ab dem 2. August 2028 (Artikel 113 Buchstabe c Ziffer ii). Ein Sicherheitsbauteil ist ein Bauteil, das eine Sicherheitsfunktion erfüllt oder dessen Ausfall oder Fehlfunktion die Gesundheit und Sicherheit von Personen oder Eigentum gefährdet (Artikel 3 Nummer 14); KI, die ausschließlich für sicherheitsfremde Aspekte wie Leistungsoptimierung, Automatisierung oder Bequemlichkeit verwendet wird, zählt nicht dazu, KI, deren Ausfall Gesundheit und Sicherheit gefährden würde, aber schon (Artikel 6 Absätze 1a und 1b). Ein Produkt, das nur wegen anderer Risiken als Gesundheit und Sicherheit, etwa Funkfrequenznutzung oder elektromagnetischer Störungen ohne Auswirkung auf Gesundheit und Sicherheit, einer Konformitätsbewertung durch Dritte unterliegt, erfüllt diese Bedingung nicht (Artikel 6 Absatz 1c); das betrifft zum Beispiel Funkanlagen (Nummer 6). Zweitens erfasst Anhang III Nummer 2 KI-Systeme, die bestimmungsgemäß als Sicherheitsbauteile im Rahmen der Verwaltung und des Betriebs kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung verwendet werden sollen; für sie gilt Kapitel III ab dem 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Nach ihrem Wortlaut nennt Nummer 2 die Verwaltung und den Betrieb des Straßenverkehrs, nicht Fahrzeuge.

  • Betreiber und Anbieter

    Eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, ist Betreiber (Artikel 3 Nummer 4); zum Beispiel ein Verkehrsunternehmen, ein Flottenhalter, ein Anlagenbetreiber oder eine Straßenbehörde, die das System eines Herstellers einsetzt. Artikel 26 bindet sie, wenn das System hochriskant ist, zum Beispiel nach Anhang III Nummer 2 oder, als Produkt nach Abschnitt A, nach Artikel 6 Absatz 1; auch die übrigen Nummern des Anhangs III lösen ihn aus, Produkte nach Abschnitt B nicht (Artikel 2 Absatz 2). Ein Betreiber wird zum Anbieter, wenn er ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke versieht, eine wesentliche Veränderung vornimmt, durch die das System ein Hochrisiko-KI-System bleibt, oder die Zweckbestimmung eines nicht als hochriskant eingestuften Systems so ändert, dass es hochriskant wird (Artikel 25 Absatz 1). Natürliche Personen, die ein System im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden, sind nicht als Betreiber gebunden (Artikel 2 Absatz 10).

  • Schwerwiegende Vorfälle

    Ein schwerwiegender Vorfall umfasst einen Vorfall oder eine Fehlfunktion eines KI-Systems, der unmittelbar oder mittelbar zum Tod einer Person oder zu einer schweren Schädigung ihrer Gesundheit, zu einer schwerwiegenden und unumkehrbaren Störung der Verwaltung oder des Betriebs kritischer Infrastruktur, zu einer Verletzung von Pflichten des Unionsrechts zum Schutz der Grundrechte oder zu einer schweren Schädigung von Eigentum oder Umwelt führt (Artikel 3 Nummer 49). Hat ein Betreiber einen schwerwiegenden Vorfall festgestellt, informiert er sofort zuerst den Anbieter und anschließend den Einführer oder Händler und die zuständigen Marktüberwachungsbehörden (Artikel 26 Absatz 5). Der Anbieter meldet den Vorfall den Marktüberwachungsbehörden: spätestens 15 Tage nachdem der Anbieter oder der Betreiber Kenntnis erlangt hat, bei Tod einer Person spätestens nach 10 Tagen und bei einem weitverbreiteten Verstoß oder einem Vorfall nach Artikel 3 Nummer 49 Buchstabe b spätestens nach zwei Tagen (Artikel 73 Absätze 1 bis 4). Artikel 73 gehört nicht zu den Vorschriften, die nach Artikel 2 Absatz 2 für Produkte nach Abschnitt B gelten.

  • Registrierung von Systemen nach Nummer 2 (Artikel 49)

    Systeme nach Anhang III Nummer 2 werden weder vom Anbieter noch von Betreibern, die Behörden sind, in der EU-Datenbank registriert (Artikel 49 Absätze 1 und 3); sie werden auf nationaler Ebene registriert (Artikel 49 Absatz 5). Wie die nationale Registrierung funktioniert, sagt die Verordnung nicht; fragen Sie die nationale Behörde und holen Sie rechtlichen Rat ein. Die Verordnung definiert „Behörde“ nicht; ob ein bestimmter Versorger eine ist, beantwortet sie nicht, und es ist erheblich für Artikel 26 Absatz 8, Artikel 49 Absatz 3 und Artikel 111 Absatz 2, wonach Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, bis zum 2. August 2030 die erforderlichen Maßnahmen zur Einhaltung treffen müssen.

  • Grundrechte-Folgenabschätzung: Nummer 2 ist ausgenommen (Artikel 27)

    Artikel 27 Absatz 1: Vor der Inbetriebnahme eines Hochrisiko-KI-Systems gemäß Artikel 6 Absatz 2, mit Ausnahme der in Anhang III Nummer 2 genannten Systeme, müssen Betreiber, die Einrichtungen des öffentlichen Rechts oder private Einrichtungen sind, die öffentliche Dienste erbringen, die Auswirkungen der Verwendung des Systems auf die Grundrechte abschätzen. Ein Versorger, Betreiber oder eine Behörde, der oder die ein System nach Nummer 2 einsetzt, hat für dieses System daher keine Pflicht nach Artikel 27 – unabhängig davon, ob er oder sie eine Einrichtung des öffentlichen Rechts ist oder einen öffentlichen Dienst erbringt. Artikel 27 Absatz 1 kann für denselben Betreiber bei einem Hochrisiko-KI-System aus einem anderen Bereich des Anhangs III gelten und erfasst auch Betreiber von Systemen nach Anhang III Nummer 5 Buchstaben b und c. Systeme nach Anhang I Abschnitt A sind nach Artikel 6 Absatz 1 hochriskant, den Artikel 27 Absatz 1 nicht nennt.

  • Erläuterung von Entscheidungen (Artikel 86) und Information (Artikel 26 Absatz 11)

    Nach Artikel 26 Absatz 11 müssen Betreiber von Hochrisiko-KI-Systemen nach Anhang III, die Entscheidungen in Bezug auf natürliche Personen treffen oder dabei unterstützen, diese Personen darüber informieren, dass sie der Verwendung des Systems unterliegen. Davon getrennt haben Personen, die von einer Entscheidung betroffen sind, die der Betreiber auf der Grundlage der Ausgabe eines Hochrisiko-KI-Systems nach Anhang III (außer Nummer 2) getroffen hat und die rechtliche Auswirkungen hat oder sie in ähnlicher Art erheblich auf eine Weise beeinträchtigt, die ihrer Ansicht nach ihre Gesundheit, Sicherheit oder Grundrechte beeinträchtigt, das Recht, vom Betreiber eine klare und aussagekräftige Erläuterung zur Rolle des KI-Systems im Entscheidungsprozess und zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten (Artikel 86 Absatz 1). Das gilt nur, soweit dieses Recht nicht anderweitig im Unionsrecht vorgesehen ist (Artikel 86 Absatz 3). Absatz 1 gilt nicht, wenn sich Ausnahmen oder Beschränkungen aus dem Unionsrecht oder dem nationalen Recht in Einklang mit dem Unionsrecht ergeben (Artikel 86 Absatz 2). Artikel 86 Absatz 1 nimmt Systeme nach Anhang III Nummer 2 aus.

  • Termine

    Systeme nach Anhang III Nummer 2 müssen Kapitel III ab dem 2. Dezember 2027 erfüllen, Systeme nach Abschnitt A ab dem 2. August 2028 (Artikel 113 Buchstabe c). Für Systeme nach Abschnitt B gilt kein Termin für die Artikel 9 bis 15, 17 und 26, weil diese Artikel für sie nicht gelten; nach Artikel 113 Buchstabe c Ziffer ii gilt Kapitel III Abschnitte 1 bis 3, zu denen Artikel 6 gehört, für Systeme nach Anhang I ab dem 2. August 2028, und die Artikel 102 bis 110 gelten seit dem 27. Juli 2026 (Artikel 113 Buchstabe c Ziffer ii und Buchstabe d). Ein System, das vor dem Geltungsbeginn von Kapitel III in Verkehr gebracht oder in Betrieb genommen wurde, ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).

  • Geldbußen

    Verstöße gegen die Anbieterpflichten nach Artikel 16 und die Betreiberpflichten nach Artikel 26 können mit Geldbußen von bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU, einschließlich Start-up-Unternehmen, ist jede Geldbuße auf den niedrigeren Betrag begrenzt (Artikel 99 Absatz 6). Dieselbe Obergrenze gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat legt Vorschriften dafür fest, inwieweit gegen Behörden und öffentliche Stellen, die in diesem Mitgliedstaat niedergelassen sind, Geldbußen verhängt werden können (Artikel 99 Absatz 8). Artikel 99 gehört nicht zu den Vorschriften, die nach Artikel 2 Absatz 2 für KI-Systeme gelten, die nach Artikel 6 Absatz 1 hochriskant sind und Produkte des Abschnitts B betreffen.

  • KI-Kompetenz (Artikel 4)

    Anbieter und Betreiber von KI-Systemen müssen Maßnahmen ergreifen, um die Entwicklung der KI-Kompetenz ihres Personals und anderer Personen zu unterstützen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Aus- und Fortbildung und der Kontext der Nutzung zu berücksichtigen sind (Artikel 4 Absatz 1). Das gilt für KI-Systeme allgemein, nicht nur für Hochrisiko-KI-Systeme. Kapitel I, das Artikel 4 enthält, gilt ab dem 2. Februar 2025 (Artikel 113 Buchstabe a). Anbieter oder Betreiber müssen für keine Person ein bestimmtes Niveau an KI-Kompetenz garantieren. Kompetenz, Schulung und Befugnis der mit der menschlichen Aufsicht betrauten Personen verlangt gesondert Artikel 26 Absatz 2.

  • Grenzen des Anwendungsbereichs der Verordnung

    Die Verordnung gilt für Anbieter, die KI-Systeme in der Union in Verkehr bringen oder in Betrieb nehmen oder KI-Modelle mit allgemeinem Verwendungszweck in der Union in Verkehr bringen, unabhängig davon, wo sie niedergelassen sind (Artikel 2 Absatz 1 Buchstabe a), sowie für Anbieter und Betreiber in einem Drittland, wenn die vom KI-System hervorgebrachte Ausgabe in der Union verwendet wird (Buchstabe c). Sie gilt nicht für Bereiche außerhalb des Unionsrechts und berührt nicht die Zuständigkeiten der Mitgliedstaaten für die nationale Sicherheit; sie gilt auch nicht für KI-Systeme, die ausschließlich für militärische Zwecke, Verteidigungszwecke oder Zwecke der nationalen Sicherheit verwendet werden (Artikel 2 Absatz 3). Die Verordnung gilt nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6). Sie gilt auch nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System oder Modell in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen sind von dieser Ausnahme nicht erfasst (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-Systeme, die unter Artikel 5 oder 50 fallen, in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12).

Was die Verordnung für autonome Systeme offenlässt

  • Keine Zahlen zu Personal oder Schulung

    Artikel 26 legt keine Personalstärke, Schulungsstunden oder Qualifikation für die Personen fest, die ein System beaufsichtigen. Verlangt werden die erforderliche Kompetenz, Schulung, Befugnis und Unterstützung (Artikel 26 Absatz 2). Die Kommission arbeitet Leitlinien zur Anwendung der Anforderungen und Pflichten der Artikel 8 bis 15 sowie 25 und 26 aus (Artikel 96 Absatz 1 Buchstabe a).

  • Aufbewahrung der Protokolle

    Artikel 12 Absatz 1 verlangt, dass Hochrisiko-KI-Systeme die automatische Aufzeichnung von Ereignissen (Protokollierung) über die Lebensdauer des Systems technisch ermöglichen; das ist eine Auslegungspflicht des Anbieters. Artikel 26 Absatz 6 setzt für Protokolle, die der Kontrolle des Betreibers unterliegen, mindestens sechs Monate fest und weicht anderem Unionsrecht oder nationalem Recht, insbesondere zum Schutz personenbezogener Daten. Für autonome Systeme nennt die Verordnung keine Aufbewahrungsfrist.

  • Gestaltungsentscheidung: Aufsichtsrollen

    Eine übliche Gestaltungsentscheidung, keine Anforderung der Verordnung: die Aufsichtspersonen je Standort, Fahrzeugflotte oder Leitstand nach Rolle benennen und ihre Schulung dokumentieren.

  • Anhalten des Systems: eine Auslegungspflicht des Anbieters

    Artikel 14 Absatz 4 Buchstabe e verlangt, dass das System dem Betreiber so bereitgestellt wird, dass die mit der menschlichen Aufsicht betrauten Personen, soweit angemessen und verhältnismäßig, in den Betrieb des Systems eingreifen oder es durch eine „Stopp“-Taste oder ein ähnliches Verfahren unterbrechen können, das einen Stillstand in einem sicheren Zustand erlaubt. Das ist eine Auslegungspflicht des Anbieters. Artikel 26 Absatz 2 verpflichtet den Betreiber, die Aufsicht Personen mit der nötigen Kompetenz, Schulung und Befugnis zu übertragen. Wer ein Fahrzeug, Luftfahrzeug oder eine Maschine anhalten darf und wann, sagt die Verordnung nicht; eine Rolle als Fernbediener nennt sie nicht.

  • Anderes Recht gilt daneben

    Artikel 26 Absätze 1 und 2 gelten unbeschadet anderer Betreiberpflichten nach Unionsrecht oder nationalem Recht (Artikel 26 Absatz 3). Ob nach einem Vorfall zusätzlich eine Meldung nach anderem Recht fällig ist, entscheidet dieses Recht, nicht die KI-Verordnung.

Fragen zu Artikel 26 bei autonomen Systemen

Ist ein Flotten- oder Fabrikbetreiber, der das autonome System eines Herstellers einsetzt, ein Betreiber?

Ja, wenn er das KI-System in eigener Verantwortung verwendet (Artikel 3 Nummer 4). Die Pflichten aus Artikel 26 hat er, wenn das System hochriskant ist, zum Beispiel nach Anhang III Nummer 2 (ab dem 2. Dezember 2027) oder als Produkt nach Abschnitt A nach Artikel 6 Absatz 1 (ab dem 2. August 2028); auch die übrigen Nummern des Anhangs III lösen sie aus. Für ein Hochrisiko-KI-System in einem Produkt nach Abschnitt B, etwa einem Fahrzeug oder einer Maschine, gilt Artikel 26 nicht (Artikel 2 Absatz 2). In den Fällen des Artikels 25 Absatz 1 wird er zum Anbieter.

Muss ein Nahverkehrsunternehmen oder eine Gemeinde eine Grundrechte-Folgenabschätzung durchführen?

Nicht für ein System nach Anhang III Nummer 2. Artikel 27 Absatz 1 nimmt Hochrisiko-KI-Systeme aus, die in dem in Nummer 2 des Anhangs III genannten Bereich verwendet werden sollen, auch für Einrichtungen des öffentlichen Rechts und private Einrichtungen mit öffentlichen Diensten. Für Systeme aus anderen Bereichen des Anhangs III kann er für dieselbe Stelle gelten.

Was muss ein Betreiber nach einem schwerwiegenden Vorfall tun?

Hat ein Betreiber einen schwerwiegenden Vorfall festgestellt, muss er sofort zuerst den Anbieter und anschließend den Einführer oder Händler und die zuständigen Marktüberwachungsbehörden informieren (Artikel 26 Absatz 5). Die Meldung des Anbieters an die Behörden ist spätestens 15 Tage nach Kenntnis des Anbieters oder Betreibers fällig, bei Tod einer Person innerhalb von 10 Tagen und in den Fällen des Artikels 73 Absatz 3 innerhalb von zwei Tagen (Artikel 73 Absätze 2 bis 4).

Gelten die Pflichten aus Artikel 26 für den Betreiber eines selbstfahrenden Fahrzeugs oder einer Drohne?

Nicht, wenn das KI-System ein Hochrisiko-KI-System in einem Produkt nach Anhang I Abschnitt B ist, etwa einem Kraftfahrzeug oder einem unbemannten Luftfahrzeug nach der Verordnung (EU) 2018/1139: Es gelten nur Artikel 6 Absatz 1, Artikel 60a und die Artikel 102 bis 112 (Artikel 2 Absatz 2). Etwaige Betreiberpflichten ergeben sich aus dem Sektorrecht, nicht aus Artikel 26.

Scanara bereitet Nachweise aus Ihren Repositorien vor

Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.