EU-KI-Verordnung für HR-Technologie-Unternehmen
Für HR-Anbieter und Arbeitgeber: Recruiting-KI ist hochriskant, das Ableiten von Emotionen am Arbeitsplatz ist verboten, und Scanara unterstützt die Arbeit.
KI für Personalgewinnung und Arbeitnehmerverwaltung kann hochriskant sein
Anhang III Nummer 4 erfasst KI für Einstellung und Auswahl (Buchstabe a) sowie für Entscheidungen über Arbeitsverhältnisse, Aufgabenverteilung und Leistungsüberwachung (Buchstabe b). Die Hochrisiko-Regeln gelten ab 2. Dezember 2027. Artikel 5 Absatz 1 Buchstabe f verbietet seit 2. Februar 2025 das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, mit Ausnahmen aus medizinischen oder Sicherheitsgründen. Nächster Schritt: Prüfen Sie Ihre HR-Systeme gegen Nummer 4 und Artikel 5.
Was auf HR-Anbieter und Arbeitgeber zukommt
Anbieter erfüllen die Artikel 8 bis 15
Anbieter von HR-Software, die Hochrisiko-KI-Systeme bereitstellen, erfüllen ab 2. Dezember 2027 die Artikel 8 bis 15 und die übrigen Anbieterpflichten des Artikels 16, sofern nicht die Ausnahme nach Artikel 6 Absatz 3 greift. Ein System, das natürliche Personen profiliert, ist immer hochriskant.
Arbeitgeber sind Betreiber
Ein Arbeitgeber, der ein HR-System nutzt, ist Betreiber. Er nutzt das System gemäß der Gebrauchsanweisung, überträgt die menschliche Aufsicht und bewahrt die seiner Kontrolle unterliegenden Protokolle mindestens sechs Monate auf, sofern nicht anderes Recht etwas anderes vorsieht. Vor der Nutzung informiert er Arbeitnehmervertreter und betroffene Beschäftigte (Artikel 26).
Das Ableiten von Emotionen am Arbeitsplatz ist verboten
Artikel 5 Absatz 1 Buchstabe f verbietet KI, die Emotionen am Arbeitsplatz und in Bildungseinrichtungen ableitet, außer aus medizinischen oder Sicherheitsgründen. Geldbußen betragen bis zu 35 Mio. EUR oder, bei Unternehmen, 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 3). Die Verordnung definiert „Arbeitsplatz“ nicht; ob sie Bewerber im Vorstellungsgespräch erfasst, ist offen.
Was Scanara für HR-Anbieter und Arbeitgeber leistet
Inventar mit dokumentierter Einstufung
Sie erfassen jedes KI-System. Scanara hält die Risikoeinstufung, Ihre Begründung zu Nummer 4 und jede Bewertung nach Artikel 6 Absatz 3 fest. Die Entscheidung treffen Sie.
Prüfung auf verbotene Praktiken
Für jedes erfasste System läuft eine geführte Prüfung nach Artikel 5, und Coderegeln markieren erkennbare Muster. Die Beurteilung von Zweck und Kontext bleibt bei Ihnen.
Code- und Dokumentenprüfungen
Coderegeln decken die Artikel 9, 10, 12, 14 und 15 ab. Ein Dokumentenscan prüft die Gebrauchsanweisung (Artikel 13) auf erforderliche Inhalte, nicht auf Richtigkeit.
Bewertungen für Betreiber
Geführte Bewertungen decken die Betreiberpflichten (Artikel 26) und die Grundrechte-Folgenabschätzung (Artikel 27) für Betreiber ab, die sie durchführen müssen, etwa Einrichtungen des öffentlichen Rechts.
Zwei Obergrenzen für Geldbußen
35 Mio. EUR oder 7 %
Obergrenze bei verbotenen Praktiken, etwa dem Ableiten von Emotionen am Arbeitsplatz: bis zu 35 Mio. EUR oder, bei Unternehmen, bis zu 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 3).
15 Mio. EUR oder 3 %
Obergrenze bei Verstößen gegen Anbieter- und Betreiberpflichten: bis zu 15 Mio. EUR oder, bei Unternehmen, bis zu 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4). Für KMU und kleine Midcap-Unternehmen gilt der niedrigere Betrag als Obergrenze (Artikel 99 Absätze 6 und 6a).
Fragen von HR-Teams
Ist meine Recruiting-KI hochriskant?
Ja, wenn sie bestimmungsgemäß für die Zwecke in Anhang III Nummer 4 Buchstabe a oder b eingesetzt wird, sofern nicht die Ausnahme nach Artikel 6 Absatz 3 greift. Ein System, das natürliche Personen profiliert, ist immer hochriskant. Nummer 4 nennt Werkzeuge wie das Verfassen von Stellenbeschreibungen oder die Schichtplanung nicht; über sie entscheidet die Zweckbestimmung.
Ist Emotionsanalyse in Videointerviews erlaubt?
Prüfen Sie zuerst Artikel 5 Absatz 1 Buchstabe f. Er verbietet KI, die Emotionen am Arbeitsplatz und in Bildungseinrichtungen ableitet, außer aus medizinischen oder Sicherheitsgründen. Die Verordnung definiert „Arbeitsplatz“ nicht; ob sie Bewerber erfasst, ist offen. Nicht verbotene Emotionserkennung ist nach Anhang III Nummer 1 Buchstabe c hochriskant, soweit das Recht ihre Verwendung zulässt.
Was müssen Arbeitgeber vor dem Einsatz von HR-KI tun?
Vor dem Einsatz eines Hochrisiko-KI-Systems am Arbeitsplatz informieren Arbeitgeber die Arbeitnehmervertreter und die betroffenen Beschäftigten (Artikel 26 Absatz 7). Betreiber von Systemen nach Anhang III, die Entscheidungen über natürliche Personen treffen oder dabei unterstützen, informieren diese Personen zudem über den Einsatz (Artikel 26 Absatz 11).
Brauchen private Arbeitgeber eine Grundrechte-Folgenabschätzung?
Nicht allein über Anhang III Nummer 4. Artikel 27 Absatz 1 betrifft Betreiber, die Einrichtungen des öffentlichen Rechts oder private Stellen mit öffentlichen Dienstleistungen sind. Ein Arbeitgeber, der keines von beidem ist, ist für Nummer 4 nicht erfasst.
Ab wann gelten die Regeln?
Artikel 5 gilt seit 2. Februar 2025. Die Anforderungen für Systeme nach Anhang III gelten ab 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Ein früher in Verkehr gebrachtes oder in Betrieb genommenes System ist erst nach wesentlichen Konstruktionsänderungen erfasst. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2).
Als Nächstes lesen
Sehen Sie einen Beispiel-Scanbericht
Die Demo zeigt einen echten, anonymisierten Compliance-Bericht und eine Produktführung.
Scanara bereitet Nachweise aus Ihren Repositorien vor
Scanara liest Ihre verbundenen GitHub-Repositorien und führt regelbasierte Scans auf gängige KI- und Machine-Learning-Muster durch. Unübliche Codemuster kann es übersehen. Getrennt davon erzeugt es aus Vorlagen und Ihren Antworten in der Bewertung Dokumentationsentwürfe als Nachweise für Ihre Compliance-Arbeit. Die Einstufung entscheiden Sie.