Artikel 10: Datengovernance für HR-Tech-KI — EU AI Act

Wie die Datengovernance nach Artikel 10 des EU AI Act für HR- und Recruiting-KI gilt — Trainingsdaten-Dokumentation, Bias-Tests, demografische Repräsentativität.

Veröffentlicht 2. April 2026

Artikel 10 des EU AI Act etabliert verbindliche Anforderungen an Datenqualität und Datengovernance für hochrisiko-KI-Systeme, einschließlich solcher, die in Beschäftigung und Rekrutierung eingesetzt werden. Diese Anforderungen stellen sicher, dass Trainingsdaten ausreichend, zweckmäßig und nicht perpetuierend für historische Diskriminierung bei Einstellungs-, Beförderungs- oder Leistungsbewertungsentscheidungen sind.

Für HR Tech und Beschäftigungs-KI-Systeme bedeutet Article 10-Konformität die Etablierung von End-to-End-Sichtbarkeit in Ihren Trainingsdaten—das Verstehen, woher sie kommen, wie repräsentativ sie sind und welche Verzerrungen sie möglicherweise enthalten. Diese Grundlage ermöglicht effektive Bias-Tests, transparente Dokumentation für Regulierer und betroffene Mitarbeiter sowie kontinuierliche Verbesserung der Fairness Ihres KI-Systems.

Artikel 10: Anforderungen an Datenqualität und Datengovernance für Beschäftigungs-KI

Qualität und Vollständigkeit der Trainingsdaten

KI-Systeme für Beschäftigung müssen mit Trainingsdaten trainiert werden, die in Volumen, Genauigkeit und Repräsentativität für die vielfältige Arbeitskräfte und Einstellungskontexte ausreichend sind. Trainingsdaten schlechter Qualität oder aus engen Quellen perpetuieren historische Verzerrungen in Einstellungsentscheidungen.

Bias-Tests für geschützte Merkmale

Vor dem Einsatz und während des gesamten KI-Lebenszyklus müssen Sie Diskriminierungsbias über geschützte Merkmale wie Geschlecht, Alter, ethnische Herkunft, Behinderungsstatus und andere gesetzlich geschützte Merkmale testen. Dokumentieren Sie alle Testmethodologien und ergriffene Abhilfemaßnahmen.

Datenverfolgung und Nachverfolgbarkeit

Dokumentieren Sie vollständig, woher Trainingsdaten stammten, wie sie erfasst wurden, welche Vorverarbeitung oder Filterung angewendet wurde und wer ihre Qualität validierte. Diese Prüfspur ist wesentlich, um die Konformität zu demonstrieren und Bias-Vorfälle zu untersuchen.

Demografische Repräsentativität über Rollen hinweg

Stellen Sie sicher, dass Trainingsdaten die demografische Vielfalt tatsächlicher Arbeitsmärkte und Kandidatenpools für jede Rolle oder Jobfamilie widerspiegeln. Repräsentationslücken in Trainingsdaten sind Indikatoren für systematische Verzerrungen in Einstellungs-, Beförderungs- oder Leistungsbewertungssystemen.

Kernverpflichtungen aus Artikel 10 für Beschäftigungs-KI

Artikel 10 erlegt vier miteinander verbundene Verpflichtungen für Anbieter und Entwickler von hochrisiko-Beschäftigungs-KI-Systemen auf:

Qualität und Suffizierung von Trainingsdaten sicherstellen

Trainingsdaten müssen in Volumen, Genauigkeit und Repräsentativität ausreichend sein. Für Recruiting-KI bedeutet dies, dass Ihr Trainingsdatensatz vielfältige Kandidatenprofile, Jobmärkte und demografische Gruppen abdeckt. Dokumentieren Sie die Rationale für Ausschlüsse oder Filterungen, die bei der Datenvorbereitung angewendet wurden. Falls Sie historische Einstellungsdaten verwenden, identifizieren und korrigieren Sie proaktiv historische Diskriminierungsmuster, die in den Daten vorhanden sein könnten.

Tests und Dokumentation von Bias über geschützte Merkmale

Führen Sie Bias-Tests durch, die gezielt geschützte Merkmale unter EU- und nationalen Antidiskriminierungsgesetzen (Geschlecht, Alter, ethnische Herkunft, Behinderung usw.) ansprechen. Verwenden Sie quantitative Fairness-Metriken, die mit Arbeitsrecht übereinstimmen (z.B. disparate impact Analyse, gleiche Chancendifferenz) und etablieren Sie klare Schwellenwerte für akzeptable Leistung über demografische Gruppen. Dokumentieren Sie alle Testmethodologien, Ergebnisse und alle ergriffenen Abhilfemaßnahmen, um identifizierte Verzerrungen zu mindern.

Datenverfolgung und Governance dokumentieren

Führen Sie eine Prüfspur aller Trainingsdaten: Quellsystem, Erfassungsdatum, Stichprobengröße, demografische Zusammensetzung und eventuell angewendete Vorverarbeitungsschritte. Erstellen Sie eine Datengovernance-Politik, die Rollen, Verantwortung und Überprüfungsverfahren für Datenqualitätsprobleme und Bias-Vorfälle definiert. Diese Dokumentation muss Regulierungsbehörden, Überwachungsbehörden und betroffenen Mitarbeitern auf Anfrage verfügbar sein.

Validierung der demografischen Repräsentativität über Jobfunktionen

Stellen Sie sicher, dass Trainingsdaten repräsentativ für die spezifischen Arbeitsmärkte und Jobfamilien sind, in denen das KI-System eingesetzt wird. Ein Modell, das auf Technologie-Sektordaten trainiert wurde, kann möglicherweise nicht fair auf Produktion, Gesundheitswesen oder andere Industrien verallgemeinert werden. Führen Sie separate Fairness-Bewertungen für verschiedene Jobkategorien, Erfahrungsstufen und Geographien durch. Beheben Sie Repräsentationslücken, die zu diskriminierenden Ergebnissen für unterrepräsentierte Gruppen führen könnten.

Überlappende Anforderungen und anwendbare Gesetze

Artikel 10 Datengovernance-Anforderungen funktionieren neben anderen EU- und nationalen Bestimmungen, die die spezifischen Kontrollen, die Sie für Beschäftigungs-KI implementieren müssen, verstärken oder verfeinern:

DSGVO: Besondere Kategorien von Daten und Artikel 22 (Automatisierte Entscheidungen)

Falls Ihr KI-System besondere Kategorien personenbezogener Daten verarbeitet (Gesundheit, genetische Daten, biometrische Daten für Identifikation, Rasse/ethnische Herkunft, politische Meinungen, religiöse Überzeugungen, Gewerkschaftszugehörigkeit oder Sexualleben), erfordern DSGVO Artikel 9 und 35 ausdrückliche Rechtsgrundlage, besondere Schutzmaßnahmen und eine Datenschutz-Folgenabschätzung (DPIA). DSGVO Artikel 22 beschränkt automatisierte Entscheidungsfindung in Beschäftigung zusätzlich, wenn sie rechtliche oder ähnlich bedeutende Auswirkungen hat; dies erfordert typischerweise ausdrückliche Zustimmung, vertragliche Notwendigkeit oder Genehmigung durch Arbeitsrecht. Artikel 10 Datengovernance-Anforderungen ergänzen und ersetzen nicht DSGVO-Verpflichtungen.

Nationale Antidiskriminierungs- und Arbeitsgesetze

Jeder EU-Mitgliedstaat verfügt über nationale Bestimmungen, die Diskriminierung in Beschäftigung basierend auf geschützten Merkmalen verbieten (Richtlinien zur Gleichbehandlung, nationale Arbeitskodizes). Diese Gesetze definieren häufig Fairness-Standards, Dokumentationsanforderungen und Haftung für diskriminierende KI-Systeme. Artikel 10-Konformität muss mit nationalen rechtlichen Schwellenwerten harmonisiert werden (z.B. zulässige disparate impact Quoten, angemessene Vorkehrungen). In einigen Gerichtsbereichen können Anbieter unabhängig von Absicht strikte Haftung für diskriminierende Ergebnisse tragen.

EU-Gleichbehandlungsrichtlinien (Geschlecht, Alter, Religion, Behinderung, ethnische Herkunft)

EU-Richtlinien 2000/43/EG (Rasse/ethnische Herkunft), 2000/78/EG (Alter, Behinderung, Religion, sexuelle Orientierung) und 2006/54/EG (Geschlecht) etablieren harmonisierte Standards für Nichtdiskriminierung in Beschäftigung über EU-Mitgliedstaaten. Artikel 10 Datengovernance- und Bias-Test-Anforderungen müssen die substantiven Fairness-Standards erfüllen oder übertreffen, die in diesen Richtlinien definiert sind. Beispielsweise muss Recruiting-KI Konformität mit Gleichlohnrichtlinien demonstrieren, wenn sie für Kompensationsentscheidungen verwendet wird.

Betriebsrat und Kollektivverhandlungs-Datenanforderungen

In Gerichtsbarkeiten mit Betriebsräten oder Kollektivverhandlungsrahmen (Deutschland, Niederlande, Frankreich usw.) lösen Einführung oder Änderungen von Beschäftigungs-KI-Systemen häufig obligatorische Konsultations- und Verhandlungsrechte aus. Tarifverträge können zusätzliche Datengovernance-, Bias-Test- oder Mitarbeiterzustimmungsanforderungen über Artikel 10 Minimums hinaus auferlegen. Überprüfen Sie anwendbare Kollektivarbeitsverträge und nationale Betriebsverfassungsgesetze (z.B. deutsches Betriebsverfassungsgesetz) auf branchenspezifische Datengovernance-Verpflichtungen.

Verstöße gegen Konformität in der Praxis

Verzerrtes Resume-Screening trainiert auf schiefen historischen Daten

Ein Recruiting-Startup trainierte seine Resume-Screening-KI auf 20 Jahren interner Einstellungsdaten von einem Technologieunternehmen, das für männerdominierte Einstellungen bekannt ist. Die Trainingsdaten waren zu 85% männliche Bewerber, und 90% der eingestellten Kandidaten waren männlich. Die KI lernte, männliche Kandidaten und Profile ähnlich vergangener Einstellungen zu bevorzugen. Kein Bias-Test wurde vor dem Einsatz durchgeführt. Ergebnis: Das System siebte 60% weibliche Bewerber auf der Resume-Stufe aus, weit über statistischen Nachweisen einer qualifizierungsbasierten Auswahl. Verstoß: Artikel 10 (unzureichende demografische Repräsentativität in Trainingsdaten) und EU-Antidiskriminierungsgesetz (disparate impact).

Geschlechtsverzerrtes Kandidaten-Scoring ohne Fairness-Tests

Ein globaler HR Tech-Anbieter setzte eine Performance-Vorhersage-KI ein, die auf historischen Mitarbeiterdaten von einem Produktionsunternehmen vorgeprägt wurde, in dem Frauen in Führungspositionen unterrepräsentiert waren. Der Anbieter fine-tunete das Modell auf diesem schiefen Datensatz ohne Geschlechts-Bias-Tests. Das Modell ordnete weiblichen Kandidaten in Beförderungsentscheidungen niedrigere Leistungsergebnisse zu, trotz Kontrolle für objektive Leistungsmetriken. Die Untersuchung zeigte, dass das Modell Lücken im Resume (Elternzeit, Teilzeitarbeit) schwerer für Frauen als Männer penalisiert hatte. Verstoß: Artikel 10 (unzureichende Bias-Tests für geschützte Merkmale) und nationale Gleichlohn-/Beförderungsgesetze.

Mangel an Trainingsdaten-Dokumentation und demografischer Verfolgung

Ein Beschäftigungs-KI-Entwickler beschaffte Trainingsdaten von mehreren Anbietern und öffentlichen Datensätzen ohne Dokumentation der demografischen Zusammensetzung, Datenerfassungsmethodologie oder angewendeter Filterschritte. Als Regulierer Nachweise demografischer Repräsentativität forderten, konnte das Unternehmen diesen nicht erbringen. Später zeigte die Analyse, dass die Trainingsdaten nur 12% nicht-binäre Kandidaten enthielten und hauptsächlich aus englischsprachigen Ländern erfasst wurden, was zu unfairen Ergebnissen für nicht-englischsprachige und geschlechtlich diverse Kandidaten führte. Verstoß: Artikel 10 (fehlende Datengovernance-Dokumentation und demografische Validierung) und DSGVO (mangelnde Transparenz über Datenverarbeitung).

Artikel 10 Konformitätsprüfliste

Art. 10(2)

Inventar und Dokumentation von Trainingsdaten

Dokumentieren Sie alle Datensätze, die zum Trainieren des KI-Systems verwendet werden, einschließlich Quelle, Erfassungsdatum, Stichprobengröße, demografischer Aufschlüsselung und eventueller Filterungs- oder Ausschlusskriterien. Ermitteln Sie systematische Lücken oder bekannte Verzerrungen in den Quelldaten.

Art. 10(2)(f)

Bias-Test-Plan und Baseline-Metriken

Etablieren Sie einen Pre-Deployment-Bias-Test-Plan für geschützte Merkmale, die für das Arbeitsrecht relevant sind. Definieren Sie Fairness-Metriken (z.B. demografische Parität, gleiche Chancendifferenz), Baseline-Schwellenwerte und Akzeptanzkriterien, die mit Ihrer Risikobewertung übereinstimmen.

Art. 10(3)

Laufende Fairness-Überwachung

Implementieren Sie eine kontinuierliche Überwachung von Modellausgaben auf Fairness über geschützte Merkmale in Live-Einsätzen. Protokollieren und eskalieren Sie Fairness-Metrik-Verschlechterungen, um ein Neutraining, Abhilfen oder Systemaktualisierungen auszulösen.

Art. 10(4)

Datengovernance-Politik und Rollen

Etablieren Sie klare Eigentumsrechte, Überprüfungszyklen und Eskalationsverfahren für Datenqualitätsprobleme, Bias-Vorfälle und Trainingsdaten-Updates. Bestimmen Sie einen Datengovernance-Leiter und definieren Sie seine Verantwortung in der KI-Governancestruktur.

Art. 10(6)

Dokumentation und Zugriffskontrolle

Führen Sie ein kontrolliertes Repository mit allen Trainingsdaten, Test-Datensätzen und Bias-Berichten. Beschränken Sie den Zugriff auf sensible HR-Daten auf autorisiertes Personal und dokumentieren Sie alle Datenzugriffe und Verarbeitungsaktivitäten.

Häufig gestellte Fragen

Was zählt unter Artikel 10 als "repräsentative" Trainingsdaten für Recruiting-KI?

Repräsentative Trainingsdaten sollten die demografische Vielfalt tatsächlicher Arbeitsmärkte und Kandidatenpools für die Positionen widerspiegeln, für die Sie einstellen. Für ein Technologieunternehmen, das in EU-Märkten rekrutiert, sind Trainingsdaten, die nur historisch männerdominierte Bereiche oder ausgeschlossene Altersgruppen repräsentieren, nicht repräsentativ. Nutzen Sie eine Kombination aus internen Einstellungsdaten, anonymisierten Konkurrenz-/öffentlichen Arbeitsdaten und sorgfältig validierten synthetischen Daten, um die demografische Abdeckung zu erhöhen.

Welche geschützten Merkmale müssen wir unter Artikel 10 in HR testen?

Testen Sie mindestens auf Bias bezüglich geschützter Merkmale unter EU- und nationalem Recht: Geschlecht, Alter, ethnische Herkunft/Rasse, Behinderung, sexuelle Orientierung, Geschlechtsidentität, Religion und Kaste (sofern anwendbar). Testen Sie zusätzlich auf Proxys (z.B. Postleitzahl als Proxy für ethnische Herkunft) und intersektionale Effekte (z.B. ältere Frauen gegenüber jüngeren Männern). Die relevanten Merkmale können sich basierend auf Ihren nationalen Umsetzungsgesetzen und branchenspezifischen Arbeitsvorschriften erweitern.

Wie oft sollten wir nach der Bereitstellung auf Bias testen?

Artikel 10 erfordert laufende Überwachung, nicht nur Pre-Deployment-Tests. Implementieren Sie mindestens vierteljährliche Bias-Test-Überprüfungen, und häufiger, wenn Sie: das System ändern, Trainingsdaten aktualisieren, Fairness-Drifts erkennen, Beschwerde erhalten oder in risikoreichen Kontexten tätig sind (z.B. endgültige Einstellungsentscheidungen). Dokumentieren Sie alle Testzyklen und ergriffene Maßnahmen als Reaktion auf Ergebnisse.

So hilft Scanara

Scanara automatisiert die EU AI Act Compliance vom Code bis zum Dossier. Verbinden Sie Ihre GitHub-Repos und erhalten Sie Compliance-Berichte in Minuten.