Artikel 26 für HR-Technologie: Pflichten der Betreiber

Artikel 26 legt diese Pflichten für Betreiber von Hochrisiko-KI-Systemen fest.

• Art. 26(7)
  Beschäftigte und ihre Vertreter informieren

  Betreiber, die Arbeitgeber sind, müssen die Arbeitnehmervertreter und die betroffenen Beschäftigten, bevor sie ein Hochrisiko-KI-System am Arbeitsplatz in Betrieb nehmen oder verwenden, darüber informieren, dass sie der Verwendung des Systems unterliegen werden. Die Information erfolgt, soweit anwendbar, nach den Regeln und Verfahren des Unionsrechts und des nationalen Rechts und der Praxis zur Unterrichtung der Arbeitnehmer und ihrer Vertreter.

• Art. 26(1)
  Nach der Betriebsanleitung verwenden

  Geeignete technische und organisatorische Maßnahmen ergreifen, um das System gemäß der Betriebsanleitung zu verwenden.

• Art. 26(2)
  Menschliche Aufsicht zuweisen

  Die menschliche Aufsicht natürlichen Personen übertragen, die über die erforderliche Kompetenz, Ausbildung und Befugnis sowie die nötige Unterstützung verfügen.

• Art. 26(4)
  Eingabedaten prüfen

  Soweit der Betreiber die Kontrolle über die Eingabedaten ausübt, sicherstellen, dass sie der Zweckbestimmung entsprechen und ausreichend repräsentativ sind.

• Art. 26(5)
  Überwachen, informieren, aussetzen

  Den Betrieb anhand der Betriebsanleitung überwachen und gegebenenfalls die Anbieter informieren. Kann die Nutzung gemäß der Betriebsanleitung ein Risiko im Sinne von Artikel 79 Absatz 1 bergen, unverzüglich den Anbieter oder Händler und die zuständige Marktüberwachungsbehörde informieren und die Nutzung aussetzen. Nach einem schwerwiegenden Vorfall sofort zuerst den Anbieter, dann den Einführer oder Händler und die Marktüberwachungsbehörden informieren. Ist der Anbieter nicht erreichbar, gilt Artikel 73 entsprechend.

• Art. 26(6)
  Protokolle aufbewahren

  Die vom System automatisch erzeugten Protokolle aufbewahren, soweit sie der Kontrolle des Betreibers unterliegen, für einen der Zweckbestimmung angemessenen Zeitraum von mindestens sechs Monaten, sofern im Unionsrecht oder im nationalen Recht, insbesondere zum Schutz personenbezogener Daten, nichts anderes bestimmt ist.

• Art. 26(11)
  Von Entscheidungen betroffene Personen informieren

  Bei Systemen nach Anhang III, die Entscheidungen über natürliche Personen treffen oder dabei unterstützen, diese Personen darüber informieren, dass sie dem System ausgesetzt sind, unbeschadet des Artikels 50.

• Art. 26(8)
  Behörden registrieren

  Betreiber, die Behörden oder Organe, Einrichtungen oder sonstige Stellen der Union sind, müssen die Registrierungspflichten nach Artikel 49 erfüllen, die Systeme nach Anhang III betreffen. Stellen sie fest, dass das System, das sie einsetzen wollen, nicht in der EU-Datenbank registriert ist, dürfen sie es nicht verwenden und müssen den Anbieter oder den Händler informieren.

• Art. 26(9)
  Datenschutz-Folgenabschätzung

  Gegebenenfalls die vom Anbieter nach Artikel 13 bereitgestellten Informationen für die Datenschutz-Folgenabschätzung nach Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 nutzen.

• Art. 26(12)
  Mit Behörden zusammenarbeiten

  Mit den zuständigen Behörden bei allen Maßnahmen zusammenarbeiten, die diese in Bezug auf das Hochrisiko-KI-System ergreifen.

Artikel 26 bindet nur Betreiber von Hochrisiko-KI-Systemen. Die Zeilen unten zeigen, wann HR-KI hochriskant wird und was das für einen Arbeitgeber bedeutet.

• HR-Technologie ist keine Kategorie der Verordnung

  Die Verordnung kennt keine Kategorie „HR-Technologie“. Diese Website verwendet das Wort für KI, die über Anhang III Nummer 4 (Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit) unter die Verordnung fällt, und über das Verbot in Artikel 5 Absatz 1 Buchstabe f, Emotionen am Arbeitsplatz abzuleiten.

• Anhang III Nummer 4: Beschäftigung und Personalmanagement

  Anhang III Nummer 4 Buchstabe a erfasst KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Buchstabe b erfasst KI-Systeme, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden sollen. Ein System nach Anhang III gilt nur nach Artikel 6 Absatz 3 als nicht hochriskant, und der Anbieter muss diese Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird (Artikel 6 Absatz 4). Artikel 6 Absatz 3 gilt nie, wenn das System Profiling natürlicher Personen durchführt. Ein Anbieter, der ein System nach Anhang III für nicht hochriskant hält, unterliegt der Registrierungspflicht nach Artikel 49 Absatz 2.

• Anbieter und Betreiber

  Anbieter, zum Beispiel ein Hersteller von HR-Software, ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Ein Arbeitgeber, eine Personalvermittlung oder eine andere Stelle, die ein System in eigener Verantwortung verwendet, ist Betreiber (Artikel 3 Nummer 4). Ein Betreiber wird zum Anbieter, wenn er ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke versieht, eine wesentliche Veränderung vornimmt, durch die das System ein Hochrisiko-KI-System bleibt, oder die Zweckbestimmung eines nicht als hochriskant eingestuften Systems so ändert, dass es hochriskant wird (Artikel 25 Absatz 1). Die Verordnung gilt nicht für Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10).

• Emotionsableitung am Arbeitsplatz: Artikel 5 Absatz 1 Buchstabe f

  Artikel 5 Absatz 1 Buchstabe f verbietet das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck und die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, außer wenn das System aus medizinischen oder sicherheitstechnischen Gründen eingeführt oder in Verkehr gebracht werden soll. Die Verordnung definiert „Arbeitsplatz“ nicht. Ob ein Videointerview mit einem Bewerber unter das Verbot fällt, beantwortet der Text nicht; lassen Sie dies rechtlich klären und prüfen Sie die Leitlinien der Kommission zu verbotenen Praktiken (Artikel 96 Absatz 1 Buchstabe b). Die Informationspflicht gegenüber betroffenen Personen nach Artikel 50 Absatz 3 ist davon getrennt und macht eine verbotene Verwendung nicht rechtmäßig.

• Grundrechte-Folgenabschätzung (Artikel 27)

  Artikel 27 Absatz 1 gilt für Betreiber von Hochrisiko-KI-Systemen nach Artikel 6 Absatz 2, mit Ausnahme der Systeme im Bereich von Anhang III Nummer 2, die Einrichtungen des öffentlichen Rechts sind oder private Einrichtungen, die öffentliche Dienste erbringen, sowie für Betreiber von Systemen nach Anhang III Nummer 5 Buchstaben b und c. Eine Einrichtung des öffentlichen Rechts, die ein System nach Nummer 4 einsetzt, zum Beispiel für die Einstellung im öffentlichen Dienst, muss die Abschätzung vor dem Einsatz durchführen. Ein privater Arbeitgeber, der keine private Einrichtung zur Erbringung öffentlicher Dienste ist, hat für ein System nach Nummer 4 keine Pflicht nach Artikel 27; ob ein Arbeitgeber öffentliche Dienste erbringt, ist eine Tatsachenfrage, lassen Sie dies rechtlich klären.

• Bewerber und Beschäftigte: Artikel 26 Absatz 11 und Artikel 86

  Betreiber von Systemen nach Anhang III, die Entscheidungen über natürliche Personen treffen oder bei solchen Entscheidungen Unterstützung leisten, müssen diese Personen darüber informieren, dass sie der Verwendung des Systems unterliegen (Artikel 26 Absatz 11); im Personalbereich sind das Bewerber und Beschäftigte. Eine Person, die einer Entscheidung unterliegt, die der Betreiber auf der Grundlage der Ausgabe eines Systems nach Anhang III (außer Nummer 2) getroffen hat und die rechtliche Auswirkungen hat oder sie in ähnlicher Weise erheblich beeinträchtigt, sodass sie der Ansicht ist, dass sich dies nachteilig auf ihre Gesundheit, Sicherheit oder Grundrechte auswirkt, hat das Recht, vom Betreiber klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsverfahren und zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten (Artikel 86 Absatz 1). Artikel 86 gilt nur, soweit dieses Recht nicht anderweitig im Unionsrecht vorgesehen ist (Artikel 86 Absatz 3).

• Termine

  Systeme nach Anhang III Nummer 4 müssen diese Pflichten ab dem 2. Dezember 2027 erfüllen (Artikel 113 Buchstabe c Ziffer i). Ein System, das vor diesem Termin in Verkehr gebracht oder in Betrieb genommen wurde, ist nur erfasst, wenn es danach erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt; in jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Das Verbot nach Artikel 5 Absatz 1 Buchstabe f gilt seit dem 2. Februar 2025; die Ausnahme in Artikel 113 Buchstabe a betrifft es nicht.

• Geldbußen

  Verstöße gegen die Anbieterpflichten nach Artikel 16 und die Betreiberpflichten nach Artikel 26 können mit Geldbußen von bis zu 15 Mio. EUR oder, wenn der Verstoßende ein Unternehmen ist, bis zu 3 % seines gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU, einschließlich Start-up-Unternehmen, gilt jede Geldbuße bis zum jeweils niedrigeren Betrag (Artikel 99 Absatz 6); dasselbe gilt für kleine Midcap-Unternehmen (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat legt fest, inwieweit gegen Behörden und Einrichtungen seines Hoheitsgebiets Geldbußen verhängt werden können (Artikel 99 Absatz 8).

• Grenzen des Anwendungsbereichs

  Die Verordnung gilt nicht für Bereiche, die nicht in den Anwendungsbereich des Unionsrechts fallen (erster Satz von Artikel 2 Absatz 3), nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens und ausschließlich für wissenschaftliche Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Artikel 2 Absatz 6), und nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen fallen nicht unter diese Ausnahme (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-System nach Artikel 5 oder 50 in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12).

• Keine Zahlen zu Personal oder Schulung

  Artikel 26 legt weder Personalstärke noch Schulungsstunden noch Qualifikation für die Personen fest, die ein HR-System beaufsichtigen. Er verlangt die erforderliche Kompetenz, Ausbildung, Befugnis und Unterstützung (Artikel 26 Absatz 2). Die Kommission arbeitet Leitlinien zur Anwendung der Anforderungen und Pflichten nach den Artikeln 8 bis 15 sowie den Artikeln 25 und 26 aus (Artikel 96 Absatz 1 Buchstabe a). Artikel 4 verlangt von Betreibern wie von Anbietern, Maßnahmen zur Förderung der KI-Kompetenz ihres Personals und anderer Personen zu ergreifen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind; ein bestimmtes Niveau müssen sie nicht garantieren (Artikel 4 Absatz 1).

• Wer die Einstellungsentscheidung trifft

  Artikel 26 sagt nicht, dass ein Mensch die endgültige Einstellungsentscheidung treffen muss. Er verlangt menschliche Aufsicht durch natürliche Personen mit der erforderlichen Kompetenz, Ausbildung und Befugnis sowie die oben beschriebenen Informations- und Erläuterungsrechte. Das Unionsrecht zum Schutz personenbezogener Daten gilt neben der Verordnung (Artikel 2 Absatz 7). Artikel 85 erlaubt jeder Person, die Grund zu der Annahme hat, dass gegen die Verordnung verstoßen wurde, bei der zuständigen Marktüberwachungsbehörde eine Beschwerde einzureichen, unbeschadet anderer Rechtsbehelfe (Artikel 85).

• Nationale Regeln für Beschäftigte

  Artikel 2 Absatz 11 hindert die Union oder die Mitgliedstaaten nicht daran, Vorschriften beizubehalten oder einzuführen, die für Arbeitnehmer in Bezug auf den Einsatz von KI-Systemen durch Arbeitgeber günstiger sind, oder die Anwendung günstigerer Tarifverträge zu fördern oder zuzulassen. Die Verordnung enthält kein Mitbestimmungsrecht; Artikel 26 Absatz 7 verlangt nur, dass die Arbeitnehmervertreter und die betroffenen Beschäftigten informiert werden. Was das nationale Recht hinzufügt, liegt außerhalb dieser Seite.

• Protokolle und personenbezogene Daten

  Artikel 26 Absatz 6 verlangt mindestens sechs Monate für Protokolle unter der Kontrolle des Betreibers und weicht anderem Unionsrecht oder nationalem Recht, insbesondere zum Schutz personenbezogener Daten. Die Verordnung nennt keine Aufbewahrungsfrist für Bewerber- oder Beschäftigtendaten.

• Artikel 26: Betreiberpflichten für Hochrisiko-KI

  Artikel 26 für alle Sektoren: wer Betreiber ist, die Pflichten, Artikel 27 und Geldbußen.

• KI-Verordnung: Compliance für HR-Technologie

  Die HR-Technologie-Übersicht: wie die Verordnung KI für Personalgewinnung und Personalmanagement erfasst.

• Artikel 50 für HR-Technologie: Transparenz und das Verbot der Emotionsableitung

  HR-KI und Artikel 50: Chatbots, Emotionserkennung und das Verbot der Emotionsableitung am Arbeitsplatz.

• Anhang III im Detail: Alle 8 Hochrisiko-Kategorien

  Wie Anhang III KI-Systeme zu Hochrisiko-KI-Systemen macht, einschließlich Beschäftigung und Personalmanagement.