Artikel 13: Transparenz für HR-Tech-KI — EU AI Act-Compliance

Artikel 13 richtet sich an Betreiber, etwa Arbeitgeber. Er nennt weder eine Genauigkeitsmetrik noch eine Fairnessmetrik.

• Transparenz, um die Ausgabe zu interpretieren

  Hochrisiko-KI-Systeme müssen so konzipiert sein, dass ihr Betrieb hinreichend transparent ist, damit die Betreiber die Ausgabe interpretieren und angemessen verwenden können (Artikel 13 Absatz 1).

• Betriebsanleitung

  Die Betriebsanleitung in einem geeigneten digitalen Format oder anderweitig muss präzise, vollständige, korrekte und eindeutige Informationen enthalten, die für die Betreiber relevant, barrierefrei zugänglich und verständlich sind (Artikel 13 Absatz 2).

• Anbieter, Zweckbestimmung, Genauigkeit und Risiken

  Nach Artikel 13 Absatz 3 enthält die Betriebsanleitung mindestens diese Angaben. Die Betriebsanleitung nennt Identität und Kontaktdaten des Anbieters (Artikel 13 Absatz 3 Buchstabe a). Sie beschreibt Zweckbestimmung, Eigenschaften, Fähigkeiten und Leistungsgrenzen des Systems. Sie gibt das Maß an Genauigkeit, einschließlich der Metriken, Robustheit und Cybersicherheit an, für das das System getestet und validiert wurde. Sie führt bekannte oder vorhersehbare Umstände auf, die zu Risiken für Gesundheit, Sicherheit oder Grundrechte führen können (Artikel 13 Absatz 3 Buchstabe b Ziffern i bis iii).

• Erläuterung, Gruppen, Daten, Änderungen, Aufsicht und Wartung

  Dieselbe Aufzählung setzt sich in Artikel 13 Absatz 3 fort. Soweit zutreffend, beschreibt die Betriebsanleitung die technischen Fähigkeiten zur Erklärung der Ausgabe und die Informationen zu ihrer Interpretation (Buchstabe b Ziffern iv und vii). Soweit angemessen, nennt sie die Leistung bei bestimmten Personen oder Personengruppen sowie die Spezifikationen für die Eingabedaten oder die verwendeten Datensätze (Buchstabe b Ziffern v und vi). Sie führt gegebenenfalls bei der ersten Konformitätsbewertung vorab bestimmte Änderungen auf (Buchstabe c). Sie beschreibt die Maßnahmen der menschlichen Aufsicht sowie die benötigte Hardware, die erwartete Lebensdauer und die Wartung (Buchstaben d und e). Soweit relevant, beschreibt sie, wie Betreiber Protokolle erfassen, speichern und auswerten (Buchstabe f).

HR-Technologie ist keine Kategorie der KI-Verordnung. Maßgeblich ist die in Anhang III Nummer 4 genannte Verwendung („Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit“).

• Nummer 4 Buchstabe a: Einstellung und Auswahl

  KI-Systeme, die bestimmungsgemäß für die Einstellung oder Auswahl natürlicher Personen verwendet werden sollen, insbesondere um gezielte Stellenanzeigen zu schalten, Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten.

• Nummer 4 Buchstabe b: Beschäftigungsverhältnisse

  KI-Systeme, die bestimmungsgemäß für Entscheidungen, die die Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen von Arbeitsvertragsverhältnissen beeinflussen, für die Zuweisung von Aufgaben aufgrund des individuellen Verhaltens oder persönlicher Merkmale oder Eigenschaften oder für die Beobachtung und Bewertung der Leistung und des Verhaltens von Personen in solchen Beschäftigungsverhältnissen verwendet werden sollen.

• Es gibt eine Ausnahme, und sie gilt nie für Profiling

  Ein System nach Anhang III gilt nicht als hochriskant, wenn es kein erhebliches Risiko der Beeinträchtigung in Bezug auf Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, auch nicht dadurch, dass es das Ergebnis der Entscheidungsfindung wesentlich beeinflusst. Die Ausnahme gilt nur, wenn eine der vier Bedingungen des Artikels 6 Absatz 3 Buchstaben a bis d erfüllt ist. Ein System, das Profiling natürlicher Personen durchführt, gilt immer als hochriskant. Ein Anbieter, der sein System für nicht hochriskant hält, muss seine Bewertung dokumentieren, bevor das System in Verkehr gebracht oder in Betrieb genommen wird (Artikel 6 Absatz 4). Die Kommission hatte bis zum 2. Februar 2026 Leitlinien mit praktischen Beispielen vorzulegen (Artikel 6 Absatz 5).

• Der Entwickler der Software ist Anbieter, der Arbeitgeber, der sie verwendet, ist Betreiber

  Anbieter ist die natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System entwickelt oder entwickeln lässt und es unter ihrem eigenen Namen oder ihrer Handelsmarke in Verkehr bringt oder in Betrieb nimmt (Artikel 3 Nummer 3). Anbieter von Hochrisiko-KI-Systemen müssen sicherstellen, dass ihre Systeme die Anforderungen des Abschnitts 2 (Artikel 8 bis 15) erfüllen (Artikel 16 Buchstabe a). Betreiber ist eine natürliche oder juristische Person, Behörde, Einrichtung oder sonstige Stelle, die ein KI-System in eigener Verantwortung verwendet, es sei denn, das System wird im Rahmen einer persönlichen und nicht beruflichen Tätigkeit verwendet (Artikel 3 Nummer 4). Ein Arbeitgeber, der ein HR-System verwendet, ist Betreiber mit den Pflichten des Artikels 26. Ein Betreiber wird zum Anbieter, wenn er seinen Namen oder seine Handelsmarke auf einem bereits in Verkehr gebrachten Hochrisiko-KI-System anbringt, eine wesentliche Veränderung daran vornimmt oder die Zweckbestimmung eines Systems so ändert, dass es zu einem Hochrisiko-KI-System wird (Artikel 25 Absatz 1).

• Termine, ältere Systeme und Ausnahmen vom Anwendungsbereich

  Die Anforderungen für Systeme nach Anhang III gelten ab 2. Dezember 2027 (Artikel 113 Buchstabe c Ziffer i). Ein Hochrisiko-KI-System, das vor diesem Datum in Verkehr gebracht oder in Betrieb genommen wurde, fällt nur darunter, wenn es ab diesem Datum erheblichen Veränderungen in Bezug auf seine Konzeption unterliegt. In jedem Fall treffen Anbieter und Betreiber von Hochrisiko-KI-Systemen, die bestimmungsgemäß von Behörden verwendet werden sollen, die erforderlichen Maßnahmen zur Einhaltung bis zum 2. August 2030 (Artikel 111 Absatz 2). Die Verordnung gilt nicht für Bereiche außerhalb des Anwendungsbereichs des Unionsrechts (Artikel 2 Absatz 3), nicht für KI-Systeme oder KI-Modelle, einschließlich ihrer Ausgabe, die eigens für den alleinigen Zweck der wissenschaftlichen Forschung und Entwicklung entwickelt und in Betrieb genommen wurden (Artikel 2 Absatz 6), und nicht für Forschung, Tests und Entwicklung vor dem Inverkehrbringen oder der Inbetriebnahme eines Systems; Tests unter Realbedingungen sind nicht ausgenommen (Artikel 2 Absatz 8). Sie gilt nicht für Pflichten von Betreibern, die natürliche Personen sind und KI-Systeme im Rahmen einer rein persönlichen und nicht beruflichen Tätigkeit verwenden (Artikel 2 Absatz 10). KI-Systeme unter freien und quelloffenen Lizenzen sind ausgenommen, es sei denn, sie werden als Hochrisiko-KI-Systeme oder als Systeme nach Artikel 5 oder 50 in Verkehr gebracht oder in Betrieb genommen (Artikel 2 Absatz 12).

• Bewerber und Arbeitnehmer werden nach anderen Artikeln informiert

  Artikel 13 verpflichtet niemanden, Bewerber oder Arbeitnehmer zu informieren. Betreiber von Hochrisiko-KI-Systemen nach Anhang III, die Entscheidungen in Bezug auf natürliche Personen treffen oder bei solchen Entscheidungen Unterstützung leisten, informieren die betreffenden Personen darüber, dass sie der Verwendung des Hochrisiko-KI-Systems unterliegen (Artikel 26 Absatz 11). Eine Person, die einer Entscheidung unterworfen ist, die der Betreiber auf der Grundlage der Ausgabe eines Systems nach Anhang III (mit Ausnahme von Nummer 2) getroffen hat und die rechtliche Auswirkungen hat oder die Person in ähnlicher Weise erheblich beeinträchtigt, und zwar so, dass sie der Ansicht ist, dass sich die Entscheidung nachteilig auf ihre Gesundheit, Sicherheit oder Grundrechte auswirkt, hat das Recht, vom Betreiber klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsverfahren und zu den wichtigsten Elementen der getroffenen Entscheidung zu erhalten (Artikel 86 Absatz 1). Das gilt nur, soweit dieses Recht nicht anderweitig im Unionsrecht besteht (Artikel 86 Absatz 3).

• Arbeitgeber informieren Arbeitnehmervertreter und betroffene Arbeitnehmer

  Vor der Inbetriebnahme oder Verwendung eines Hochrisiko-KI-Systems am Arbeitsplatz informieren Betreiber, die Arbeitgeber sind, die Arbeitnehmervertreter und die betroffenen Arbeitnehmer darüber, dass sie der Verwendung des Systems unterliegen werden. Diese Informationen werden gegebenenfalls im Einklang mit den Vorschriften und Gepflogenheiten auf Unionsebene und nationaler Ebene in Bezug auf die Unterrichtung von Arbeitnehmern und ihren Vertretern bereitgestellt (Artikel 26 Absatz 7).

• Keine vorgeschriebene Genauigkeits- oder Fairnessmetrik

  Die Verordnung nennt weder eine Genauigkeitsmetrik noch eine Fairnessmetrik. Die Betriebsanleitung muss den Grad der Genauigkeit und die entsprechenden Metriken angeben, anhand deren das System getestet und validiert wurde (Artikel 13 Absatz 3 Buchstabe b Ziffer ii und Artikel 15 Absatz 3). Gegebenenfalls gibt sie die Leistung des Systems in Bezug auf bestimmte Personen oder Personengruppen an, für die es verwendet werden soll (Artikel 13 Absatz 3 Buchstabe b Ziffer v).

• Die Verordnung nennt keine Norm; harmonisierte Normen und Leitlinien gibt es

  Die Verordnung selbst nennt keine Norm die Transparenz. Sie verlangt, den allgemein anerkannten Stand der Technik zu berücksichtigen (Artikel 8 Absatz 1). Hochrisiko-KI-Systeme, die mit harmonisierten Normen, deren Fundstellen im Amtsblatt veröffentlicht wurden, übereinstimmen, gelten als konform mit den Anforderungen des Abschnitts 2, soweit diese Normen sie abdecken (Artikel 40 Absatz 1). Die Kommission erarbeitet Leitlinien zur Anwendung der Anforderungen der Artikel 8 bis 15 (Artikel 96 Absatz 1 Buchstabe a). Jede andere Norm, die ein Anbieter nutzt, ist eine freiwillige Gestaltungsentscheidung.

Das sind Beispiele, keine Anforderungen.

• Beispiel: Leistung nach Gruppen (Artikel 13 Absatz 3 Buchstabe b Ziffer v)

  Gegebenenfalls gibt die Betriebsanleitung an, wie das Tool für die Bewerbergruppen arbeitet, für die es verwendet werden soll, zum Beispiel nach Sprache der Bewerbung.

• Beispiel: Aufsicht und Protokolle (Artikel 13 Absatz 3 Buchstaben d und f)

  Die Betriebsanleitung beschreibt, wie ein Recruiter ein Ranking prüft und übersteuern kann und wie der Arbeitgeber die Protokolle des Tools erfasst, speichert und liest.

• Artikel 13 KI-Verordnung: Transparenz und Betriebsanleitung

  Der Artikel, wie die Verordnung ihn für alle Branchen fasst.

• KI-Verordnung: Compliance für HR-Technologie

  Wie die Verordnung KI für Einstellung, Auswahl und Personalmanagement erfasst.

• Artikel 12: Aufzeichnungspflichten für HR-Tech-KI — EU AI Act

  Automatische Ereignisaufzeichnung für HR-Technologie.

• Artikel 26 für HR-Technologie: Pflichten der Betreiber

  Pflichten des Arbeitgebers als Betreiber, einschließlich der Information der Arbeitnehmer.