Artikel 50 für HR-Technologie: Transparenz und das Verbot der Emotionsableitung

Jeder Absatz nennt, wer offenlegen muss. Jeder hat auch eine Ausnahme für gesetzlich zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten zugelassene Verwendungen; die Absätze 1 und 3 knüpfen Bedingungen daran.

• Art. 50(1)
  Systeme, die mit Menschen interagieren (Anbieter)

  Anbieter müssen KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipieren, dass diese Personen informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus Sicht einer angemessen informierten, aufmerksamen und verständigen Person aufgrund der Umstände und des Kontexts der Nutzung offensichtlich.

• Art. 50(2)
  Synthetische Ausgaben kennzeichnen (Anbieter)

  Anbieter von Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass die Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind. Die Pflicht gilt nicht, soweit das System eine unterstützende Funktion für die Standardbearbeitung ausführt oder die Eingabedaten oder deren Semantik nicht wesentlich verändert.

• Art. 50(3)
  Emotionserkennung und biometrische Kategorisierung (Betreiber)

  Betreiber eines Emotionserkennungssystems oder eines Systems zur biometrischen Kategorisierung müssen die davon betroffenen natürlichen Personen über den Betrieb des Systems informieren und personenbezogene Daten nach dem geltenden Datenschutzrecht verarbeiten.

• Art. 50(4)
  Deepfakes und veröffentlichte Texte (Betreiber)

  Betreiber eines Systems, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Dasselbe gilt für Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, der Text wurde menschlich überprüft oder redaktionell kontrolliert und eine Person trägt die redaktionelle Verantwortung. Bei einem offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werk beschränkt sich die Pflicht darauf, das Vorhandensein der erzeugten Inhalte so offenzulegen, dass Darstellung oder Genuss des Werks nicht beeinträchtigt werden.

• Art. 50(5)
  Wie und wann informiert wird

  Die Informationen müssen klar und eindeutig sein, spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung bereitgestellt werden und den geltenden Barrierefreiheitsanforderungen entsprechen (Artikel 50 Absatz 5).

Artikel 50 gilt für die genannten KI-Systeme unabhängig von ihrer Risikoklasse. Das Verbot der Emotionsableitung am Arbeitsplatz nach Artikel 5 kommt zuerst.

• HR-Technologie ist keine Kategorie der Verordnung

  Die Verordnung kennt keine Kategorie „HR-Technologie“. Diese Website verwendet das Wort für KI, die über Anhang III Nummer 4 (Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit) unter die Verordnung fällt, und über das Verbot in Artikel 5 Absatz 1 Buchstabe f, Emotionen am Arbeitsplatz abzuleiten.

• Emotionsableitung am Arbeitsplatz: Artikel 5 Absatz 1 Buchstabe f

  Artikel 5 Absatz 1 Buchstabe f verbietet das Inverkehrbringen, die Inbetriebnahme für diesen spezifischen Zweck und die Verwendung von KI-Systemen zur Ableitung von Emotionen einer natürlichen Person am Arbeitsplatz und in Bildungseinrichtungen, außer wenn das System aus medizinischen oder sicherheitstechnischen Gründen eingeführt oder in Verkehr gebracht werden soll. Die Verordnung definiert „Arbeitsplatz“ nicht. Ob ein Videointerview mit einem Bewerber unter das Verbot fällt, beantwortet der Text nicht; lassen Sie dies rechtlich klären und prüfen Sie die Leitlinien der Kommission zu verbotenen Praktiken (Artikel 96 Absatz 1 Buchstabe b). Die Informationspflicht gegenüber betroffenen Personen nach Artikel 50 Absatz 3 ist davon getrennt und macht eine verbotene Verwendung nicht rechtmäßig.

• Wo Emotionserkennung nicht verboten ist

  Ein Emotionserkennungssystem ist ein KI-System zur Ermittlung oder Ableitung von Emotionen oder Absichten natürlicher Personen auf der Grundlage ihrer biometrischen Daten (Artikel 3 Nummer 39). Ist eine solche Verwendung nicht verboten, erfasst sie Anhang III Nummer 1 Buchstabe c, soweit ihr Einsatz nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist. Sie ist nach Artikel 6 Absatz 2 hochriskant, es sei denn, die Ausnahme nach Artikel 6 Absatz 3 greift (eine der Bedingungen a bis d genügt; nie bei Profiling), und Artikel 2 begrenzt den Anwendungsbereich der Verordnung. Artikel 50 Absatz 3 verlangt dann, dass der Betreiber die betroffenen Personen informiert. Artikel 5 Absatz 1 Buchstabe g verbietet gesondert Systeme zur biometrischen Kategorisierung, die natürliche Personen anhand ihrer biometrischen Daten individuell in Kategorien einteilen, um daraus ihre Rasse, politische Meinung, Gewerkschaftszugehörigkeit, religiöse oder philosophische Überzeugung, ihr Sexualleben oder ihre sexuelle Ausrichtung abzuleiten, mit den in diesem Buchstaben genannten Ausnahmen.

• Beispiele nach Absatz

  Beispiel: Ein Chatbot, der Fragen von Bewerbern beantwortet, interagiert direkt mit natürlichen Personen (Artikel 50 Absatz 1). Beispiel: Ein Werkzeug, das synthetischen Text erzeugt, fällt unter die Kennzeichnungspflicht des Anbieters (Artikel 50 Absatz 2); ein Arbeitgeber, der es nur verwendet, ist Betreiber, und seine Pflichten ergeben sich, soweit sie gelten, aus Artikel 50 Absätze 3 und 4, nicht aus Artikel 50 Absatz 2.

• Stellenbeschreibungen und E-Mails an Bewerber

  Artikel 50 nennt kein HR-Dokument. Für Betreiber verlangt Artikel 50 Absatz 4 die Offenlegung bei Deepfakes und bei Text, der veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, es sei denn, der Text wurde menschlich überprüft oder redaktionell kontrolliert und eine Person trägt die redaktionelle Verantwortung. Eine Stellenbeschreibung oder eine E-Mail an einen einzelnen Bewerber ist nach ihrem Wortlaut kein solcher Text; ob eine bestimmte Veröffentlichung einer ist, beantwortet die Verordnung nicht, lassen Sie dies rechtlich klären. KI-erzeugte Bild-, Ton- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden, sind Deepfakes (Artikel 3 Nummer 60).

• Bewerber über ein Screening-Werkzeug informieren

  Bewerber und Beschäftigte darüber zu informieren, dass ein Hochrisiko-KI-System für Entscheidungen über sie verwendet wird, ist die Pflicht aus Artikel 26 Absatz 11, nicht aus Artikel 50 Absatz 1. Artikel 26 Absatz 11 gilt unbeschadet des Artikels 50.

• Anhang III Nummer 4: Beschäftigung und Personalmanagement

  Anhang III Nummer 4 Buchstabe a erfasst KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Buchstabe b erfasst KI-Systeme, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden sollen. Ein System nach Anhang III gilt nur nach Artikel 6 Absatz 3 als nicht hochriskant, und der Anbieter muss diese Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird (Artikel 6 Absatz 4). Artikel 6 Absatz 3 gilt nie, wenn das System Profiling natürlicher Personen durchführt. Ein Anbieter, der ein System nach Anhang III für nicht hochriskant hält, unterliegt der Registrierungspflicht nach Artikel 49 Absatz 2.

• Anbieter und Betreiber

  Anbieter, zum Beispiel ein Hersteller von HR-Software, ist, wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Ein Arbeitgeber, eine Personalvermittlung oder eine andere Stelle, die ein System in eigener Verantwortung verwendet, ist Betreiber (Artikel 3 Nummer 4). Ein Betreiber wird zum Anbieter, wenn er ein bereits in Verkehr gebrachtes Hochrisiko-KI-System mit seinem Namen oder seiner Handelsmarke versieht, eine wesentliche Veränderung vornimmt, durch die das System ein Hochrisiko-KI-System bleibt, oder die Zweckbestimmung eines nicht als hochriskant eingestuften Systems so ändert, dass es hochriskant wird (Artikel 25 Absatz 1). Die Verordnung gilt nicht für Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10).

• Termine

  Artikel 50 gilt ab dem 2. August 2026. Anbieter von Systemen, die synthetische Inhalte erzeugen und vor diesem Termin in Verkehr gebracht wurden, müssen die erforderlichen Schritte zur Einhaltung von Artikel 50 Absatz 2 bis zum 2. Dezember 2026 unternehmen (Artikel 111 Absatz 4). Für die Pflichten aus Artikel 50 Absätze 1, 3 und 4 gibt es keine Übergangsfrist.

• Geldbußen

  Verstöße gegen die Transparenzpflichten der Anbieter und Betreiber nach Artikel 50 können mit Geldbußen von bis zu 15 Mio. EUR oder, wenn der Verstoßende ein Unternehmen ist, bis zu 3 % seines gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 4 Buchstabe g). Verstöße gegen Artikel 5 können mit Geldbußen von bis zu 35 Mio. EUR oder, wenn der Verstoßende ein Unternehmen ist, bis zu 7 % dieses Umsatzes geahndet werden, je nachdem, welcher Betrag höher ist (Artikel 99 Absatz 3). Für KMU, einschließlich Start-up-Unternehmen, gilt jede Geldbuße bis zum jeweils niedrigeren Betrag (Artikel 99 Absatz 6); für kleine Midcap-Unternehmen gilt das für die Stufe des Artikels 50, nicht für Artikel 5 (Artikel 3 Nummer 14b, Artikel 99 Absatz 6a). Jeder Mitgliedstaat legt fest, inwieweit gegen Behörden Geldbußen verhängt werden können (Artikel 99 Absatz 8).

• Grenzen des Anwendungsbereichs

  Die Verordnung gilt nicht für Bereiche, die nicht in den Anwendungsbereich des Unionsrechts fallen (erster Satz von Artikel 2 Absatz 3), nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens und ausschließlich für wissenschaftliche Forschung und Entwicklung entwickelt und in Betrieb genommen werden (Artikel 2 Absatz 6), und nicht für Forschungs-, Test- und Entwicklungstätigkeiten, bevor ein System in Verkehr gebracht oder in Betrieb genommen wird; Tests unter Realbedingungen fallen nicht unter diese Ausnahme (Artikel 2 Absatz 8). Sie gilt nicht für KI-Systeme, die unter freien und quelloffenen Lizenzen bereitgestellt werden, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als KI-System nach Artikel 5 oder 50 in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12).

• Keine HR-Regel, kein Kennzeichnungsformat

  Artikel 50 enthält keine Regel speziell für die HR-Technologie. Er nennt weder Wortlaut noch Symbol noch technische Norm; die Kennzeichnungspflicht verlangt ein maschinenlesbares Format und Erkennbarkeit, und Artikel 50 Absatz 2 verweist auf den allgemein anerkannten Stand der Technik, „wie er in den einschlägigen technischen Normen zum Ausdruck kommen kann“.

• Praxisleitfäden

  Die Kommission fördert und erleichtert Praxisleitfäden zur Feststellung und Kennzeichnung künstlich erzeugter Inhalte (Artikel 50 Absatz 7). Der Artikel macht die Einhaltung nicht verpflichtend. Hält sie einen Kodex für nicht angemessen, kann die Kommission einen Durchführungsrechtsakt mit gemeinsamen Vorschriften für diese Pflichten erlassen (Artikel 50 Absatz 7). Sie muss außerdem Leitlinien zur praktischen Umsetzung des Artikels 50 ausarbeiten (Artikel 96 Absatz 1 Buchstabe d).

• Menschliche Überprüfung

  Die Ausnahme für menschliche Überprüfung oder redaktionelle Kontrolle steht in Artikel 50 Absatz 4, für veröffentlichten Text. Artikel 50 Absatz 2 kennt sie nicht; seine Ausnahmen sind die unterstützende Standardbearbeitung, keine wesentliche Veränderung der Eingabedaten oder ihrer Semantik und die gesetzliche Zulassung für Zwecke der Strafverfolgung.

• Anderes Transparenzrecht

  Artikel 50 gilt unbeschadet anderer Transparenzpflichten für Betreiber nach Unionsrecht oder nationalem Recht (Artikel 50 Absatz 6). Was das nationale Recht Arbeitgebern über die Verordnung hinaus an Information von Bewerbern oder Beschäftigten vorschreibt, liegt außerhalb dieser Seite.

• Artikel 50: Transparenz- und Offenlegungspflichten

  Artikel 50 für alle Sektoren: die vier Pflichten, Ausnahmen, Termine und Geldbußen.

• KI-Verordnung: Compliance für HR-Technologie

  Die HR-Technologie-Übersicht: wie die Verordnung KI für Personalgewinnung und Personalmanagement erfasst.

• Artikel 26 für HR-Technologie: Pflichten der Betreiber

  HR-KI und Artikel 26: Information der Beschäftigten, menschliche Aufsicht, Überwachung und Protokolle.

• Verbotene KI-Praktiken nach Artikel 5 der KI-Verordnung

  Die verbotenen Praktiken, darunter die Ableitung von Emotionen am Arbeitsplatz und in der Bildung.