Skip to main content

Artikel 12: Aufzeichnungspflichten für HR-Tech-KI — EU AI Act

Wie die Aufzeichnungspflichten aus Artikel 12 des EU AI Act für HR-Tech-KI gelten — Protokollierung von Bewerberentscheidungen, Datenaufbewahrung, Gleichstellungsprüfungen.

Artikel 12 der EU AI Act verpflichtet Hochrisiko-KI-Systeme dazu, Ereignisse, die für die Ermittlung von Risiken und die Gewährleistung der Rückverfolgbarkeit relevant sind, automatisch aufzuzeichnen. HR-Tech-KI — nach Anhang III, Abschnitt 4 als hochriskant eingestuft, wenn sie für die Personalbeschaffung, das Screening von Bewerbern, die Leistungsbewertung oder Beförderungsentscheidungen eingesetzt wird — muss jede KI-beeinflusste Beschäftigungsentscheidung mit ausreichender Detailtiefe protokollieren, um auf Prüfungen von Gleichstellungsstellen, Datenauskunftsersuchen von Bewerbern und Verfahren vor Arbeitsgerichten reagieren zu können.

Die Herausforderung bei der Aufzeichnung von HR-KI besteht darin, dass jede protokollierte Entscheidung potenziell die Existenzgrundlage einer Person betrifft. Bewerber und Beschäftigte haben nach Artikel 15 DSGVO das Recht, ihre Daten anzufordern, einschließlich Informationen über automatisierte Entscheidungsfindung. Ihre Protokollierungsinfrastruktur muss erfassen, was die KI bewertet hat, welche Faktoren die Bewertung bestimmt haben und welche menschliche Entscheidung getroffen wurde — und die Protokolle zugleich so strukturieren, dass ein effizienter Abruf für Auskunftsersuchen möglich ist. Diese Seite erläutert die spezifischen Protokollierungspflichten, die Aufbewahrungsanforderungen und die Verstöße auf Codeebene, die Scanara erkennt.

Was muss bei HR-Tech-KI-Systemen protokolliert werden?

Ausgaben der Bewerberbewertung

Jede KI-generierte Bewerberbewertung, jedes Ranking und jede Empfehlung muss protokolliert werden mit: Zeitstempel, Modellversion, der Bewertungsausgabe und den Faktoren, die am stärksten zur Entscheidung beigetragen haben. Dies ermöglicht die Rekonstruktion, warum eine bestimmte Bewerberin oder ein bestimmter Bewerber weitergeleitet oder abgelehnt wurde.

Merkmalsbedeutung je Entscheidung

Protokollieren Sie die wichtigsten Merkmale, die jede Bewertungsentscheidung bestimmt haben — nicht nur die endgültige Bewertung. Wenn eine Gleichstellungsstelle eine Erklärung dafür verlangt, warum eine Bewerberin oder ein Bewerber abgelehnt wurde, müssen Sie die spezifischen Faktoren (Qualifikationsübereinstimmung, Gewichtung der Erfahrung, Ergebnisse von Assessments) benennen können, die das Ergebnis bestimmt haben.

Aufzeichnungen über menschliche Entscheidungen und Übersteuerungen

Protokollieren Sie, ob eine Recruiterin, ein Recruiter oder eine einstellende Führungskraft die KI-Empfehlung angenommen, geändert oder übersteuert hat. Artikel 14 verlangt eine wirksame menschliche Aufsicht — Ihre Protokolle müssen belegen, dass Menschen die endgültigen Beschäftigungsentscheidungen treffen und KI-Ausgaben nicht nur abnicken.

Version der Referenzdatenbank

Artikel 12(1) verlangt die Protokollierung der Referenzdatenbank, mit der die Eingabedaten abgeglichen wurden. Für HR-KI bedeutet dies, die Version des Modells der Stellenanforderungen, die Version der Kompetenztaxonomie und etwaige zur Kalibrierung verwendete Benchmark-Datensätze zum Zeitpunkt jeder Entscheidung zu erfassen.

Zeiträume der Systemnutzung

Protokollieren Sie die Zeiträume, in denen das KI-Screening-System für jede Rekrutierungskampagne aktiv war. Wenn das System während einer Kampagne aktualisiert oder neu kalibriert wurde, protokollieren Sie den Übergang, um einen fairen Vergleich zwischen den unter verschiedenen Modellversionen bewerteten Bewerbern zu ermöglichen.

Zentrale Aufzeichnungspflichten für HR-Tech

Die Protokollierung von HR-KI muss die arbeitsrechtlichen Aufbewahrungsanforderungen mit den Grundsätzen der Datenminimierung nach der DSGVO in Einklang bringen. Das zentrale Spannungsfeld besteht darin, dass Gleichstellungsstellen Einstellungsentscheidungen noch Jahre später untersuchen können, während die DSGVO verlangt, dass personenbezogene Daten nicht länger als nötig aufbewahrt werden.

Aufbewahrung: Das Arbeitsrecht ist maßgeblich

Die AI Act verlangt eine Mindestfrist von 6 Monaten. Nationale Antidiskriminierungsgesetze im Beschäftigungsbereich verlangen in der Regel eine Aufbewahrung von Rekrutierungsunterlagen von 1–2 Jahren (angelehnt an EEOC-äquivalente Anforderungen in den EU-Mitgliedstaaten). Die Datenminimierung nach der DSGVO begrenzt die Aufbewahrung auf den jeweils kürzeren geltenden Zeitraum — bewahren Sie Protokolle für die gesetzlich vorgeschriebene Dauer auf und löschen Sie sie anschließend.

Auskunftsersuchen von Bewerbern

Nach Artikel 15 DSGVO können Bewerber alle über sie gespeicherten Daten anfordern, einschließlich Informationen über automatisierte Entscheidungsfindung. Protokolle müssen so strukturiert sein, dass ein Bewerber-Auskunftsersuchen effizient erfüllt werden kann — nach Bewerberkennung indexieren und sicherstellen, dass der Protokollabruf keine manuelle Suche in unstrukturierten Dateien erfordert.

Prüfpfad für Gleichstellungsstellen

Nationale Gleichstellungsstellen, die eine mögliche Diskriminierung bei KI-gestützten Einstellungen untersuchen, werden Entscheidungsprotokolle anfordern. Protokolle müssen so strukturiert sein, dass sie belegen, dass Entscheidungen nicht auf geschützten Merkmalen beruhten — und müssen die menschliche Entscheidung neben der KI-Empfehlung für jede Bewerberin und jeden Bewerber ausweisen.

Kampagnenübergreifende Konsistenz

Wenn dasselbe KI-System in mehreren Rekrutierungskampagnen eingesetzt wird, müssen die Protokolle Änderungen der Modellversion und Neukalibrierungen erfassen. Eine Untersuchung, die Ergebnisse über verschiedene Kampagnen hinweg vergleicht, muss feststellen können, ob Unterschiede auf Modelländerungen oder auf Schwankungen im Bewerberpool zurückzuführen sind.

Regulatorische Überschneidungen

Die Aufzeichnung von HR-KI liegt an der Schnittstelle von Arbeitsrecht, Datenschutz und Antidiskriminierungsrecht. Bei der Einhaltung von Artikel 12 sind sich überschneidende Pflichten aus mehreren Rahmenwerken zu berücksichtigen, die jeweils eigene Dokumentations- und Aufbewahrungsanforderungen auferlegen.

Artikel 15 DSGVO — Auskunftsrechte betroffener Personen

Bewerber und Beschäftigte haben das Recht, Informationen über automatisierte Entscheidungsfindung zu erhalten, einschließlich “aussagekräftiger Informationen über die involvierte Logik” sowie der “Tragweite und der angestrebten Auswirkungen”. KI-Entscheidungsprotokolle müssen so strukturiert sein, dass sie innerhalb der 30-tägigen DSGVO-Antwortfrist für Auskunftsersuchen menschenlesbare Erklärungen erzeugen können.

Gleichbehandlungsrichtlinien

Die EU-Gleichbehandlungsrichtlinien (2006/54/EG, 2000/78/EG) verbieten die Diskriminierung im Beschäftigungsbereich. Wenn sich bei Diskriminierungsklagen die Beweislast auf den Arbeitgeber verlagert, werden KI-Entscheidungsprotokolle zum primären Nachweis für eine diskriminierungsfreie Entscheidungsfindung. Die Protokolle müssen genügend Kontext erfassen, um Vorwürfe einer mittelbaren Benachteiligung zu widerlegen.

Nationale Gesetze zur Aufbewahrung von Beschäftigungsdaten

Die EU-Mitgliedstaaten sehen unterschiedliche Aufbewahrungsfristen für Beschäftigungsunterlagen vor. Deutschland verlangt 6 Monate für Daten abgelehnter Bewerber (AGG §15(4)), Frankreich verlangt 5 Jahre für Unterlagen zu Diskriminierungsklagen und die Niederlande verlangen je nach Kontext 4 Wochen bis 1 Jahr. Ihre Aufbewahrungsrichtlinie für Protokolle muss das strengste anwendbare nationale Recht berücksichtigen.

Konsultationsrechte des Betriebsrats

In Rechtsordnungen mit obligatorischer Betriebsratskonsultation (Deutschland, Niederlande, Österreich) müssen KI-Systemprotokolle möglicherweise für Arbeitnehmervertreter zugänglich sein. Die Protokollierungsarchitektur muss einen eingeschränkten Zugang für die Prüfung durch den Betriebsrat unterstützen und zugleich die Privatsphäre der einzelnen Bewerber wahren.

Häufige Verstöße, die Scanara erkennt

print()-Protokollierung statt strukturiertem JSON

Bewerberbewertungscode, der print-Anweisungen oder console.log für die Entscheidungsprotokollierung anstelle strukturierter JSON-Ereignisse verwendet. Unstrukturierte Textprotokolle können nicht zuverlässig für Bewerber-Auskunftsersuchen, Prüfungen von Gleichstellungsstellen oder die automatisierte Überwachung abgefragt werden — ein Verstoß gegen die Rückverfolgbarkeitsanforderungen von Artikel 12.

Fehlende Modellversion in Bewertungsereignissen

KI-Screening-Endpunkte, die Bewerberbewertungen protokollieren, ohne die Modellversion, die Version des Bewertungsalgorithmus oder die Konfigurationsparameter zu erfassen. Wenn eine Gleichstellungsstelle Entscheidungen von vor sechs Monaten untersucht, muss feststellbar sein, welche Modellversion jede Bewertung erzeugt hat.

Protokolle auf lokaler Festplatte ohne Aufbewahrung geschrieben

Das Schreiben von KI-Einstellungsentscheidungsprotokollen in flüchtigen Speicher oder auf lokale Festplatten ohne dauerhaften Aufbewahrungsmechanismus. Diskriminierungsklagen im Beschäftigungsbereich können bis zu 2 Jahre nach der Entscheidung eingereicht werden — auf flüchtiger Infrastruktur gespeicherte Protokolle überstehen dies nicht und stützen die Verteidigung des Arbeitgebers nicht.

Kein Zeitstempel bei KI-Inferenzereignissen

Bewerberbewertungsereignisse ohne ISO-8601-Zeitstempel. Die zeitliche Reihenfolge ist unerlässlich, um festzustellen, wann jede Bewerberin oder jeder Bewerber bewertet wurde, ob sich Modellversionen während einer Kampagne geändert haben und ob die Abfolge der Entscheidungen Muster aufweist, die eine Untersuchung erfordern.

Artikel-12-Compliance-Checkliste für HR-Tech

Art. 12(1)

Jede KI-beeinflusste Beschäftigungsentscheidung protokollieren

Stellen Sie sicher, dass jede Screening-Bewertung, jedes Ranking und jede Empfehlung ein strukturiertes Protokollereignis mit Zeitstempel, Modellversion, Eingabereferenz, Ausgabebewertung und beitragenden Faktoren erzeugt.

Art. 12(2)

Verzerrungsüberwachung aus Protokollen ermöglichen

Strukturieren Sie Protokolle so, dass sie eine automatisierte Überwachung auf mittelbare Benachteiligung über geschützte Merkmale hinweg unterstützen. Nehmen Sie, soweit rechtlich zulässig, aggregierte Durchlassquoten nach demografischer Gruppe auf.

Art. 12(4)

Menschliche Entscheidungsträger erfassen

Protokollieren Sie die Identität der Recruiter und einstellenden Führungskräfte, die KI-Ausgaben überprüft haben, einschließlich ihrer endgültigen Entscheidung. Halten Sie die Verbindung zwischen KI-Empfehlung und menschlicher Handlung für jede Bewerberin und jeden Bewerber aufrecht.

GDPR

Auskunftsersuchen von Bewerbern unterstützen

Indexieren Sie Protokolle nach Bewerberkennung, um eine effiziente Erfüllung von Auskunftsersuchen zu ermöglichen. Stellen Sie sicher, dass der Protokollabruf innerhalb der 30-tägigen DSGVO-Antwortfrist eine bewerberspezifische Entscheidungszusammenfassung erzeugen kann.

Retention

Rechtsordnungsspezifische Aufbewahrungsfristen anwenden

Konfigurieren Sie Aufbewahrungsrichtlinien je Rechtsordnung: Mindestens 6 Monate (Deutschland AGG), bis zu 5 Jahre (Frankreich, Diskriminierungsklagen). Automatisieren Sie die Löschung bei Ablauf der Aufbewahrungsfrist, um die Datenminimierung nach der DSGVO einzuhalten.

Häufig gestellte Fragen

Verwandte Ressourcen


So hilft Scanara

Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.