Artykuł 12: prowadzenie rejestrów w AI dla HR — EU AI Act
Jak wymogi prowadzenia rejestrów z artykułu 12 EU AI Act stosują się do AI w HR — logowanie decyzji o kandydatach, retencja danych zatrudnienia, audyty organów ds. równości.
Artykuł 12 EU AI Act wymaga, aby systemy AI wysokiego ryzyka automatycznie rejestrowały zdarzenia istotne dla identyfikacji ryzyka i zapewnienia identyfikowalności. AI w technologiach HR — sklasyfikowana jako wysokiego ryzyka na mocy załącznika III, sekcja 4, gdy jest wykorzystywana do rekrutacji, selekcji kandydatów, oceny wyników lub decyzji o awansie — musi rejestrować każdą decyzję dotyczącą zatrudnienia, na którą wpłynęła AI, z wystarczającą szczegółowością, aby móc odpowiedzieć na audyty organów ds. równości, wnioski o dostęp do danych kandydatów oraz postępowania przed sądami pracy.
Wyzwaniem w zakresie prowadzenia dokumentacji dla AI w HR jest to, że każda zarejestrowana decyzja potencjalnie wpływa na źródło utrzymania danej osoby. Kandydaci i pracownicy mają prawo, na mocy artykułu 15 RODO, zażądać swoich danych, w tym informacji o zautomatyzowanym podejmowaniu decyzji. Twoja infrastruktura rejestrowania musi uchwycić, co AI oceniła, jakie czynniki zadecydowały o wyniku oraz jaką decyzję podjął człowiek — jednocześnie strukturyzując rejestry tak, aby umożliwić efektywne odzyskiwanie na potrzeby wniosków o dostęp. Ta strona wyjaśnia szczegółowe obowiązki rejestrowania, wymogi przechowywania oraz naruszenia na poziomie kodu, które wykrywa Scanara.
Co musi być rejestrowane w systemach AI w HR?
Wyniki oceny kandydatów
Każdy wygenerowany przez AI wynik, ranking lub rekomendacja kandydata musi być rejestrowany z: znacznikiem czasu, wersją modelu, wynikiem oceny oraz czynnikami, które najbardziej przyczyniły się do decyzji. Umożliwia to zrekonstruowanie, dlaczego dany kandydat został awansowany lub odrzucony.
Znaczenie cech na decyzję
Rejestruj kluczowe cechy, które zadecydowały o każdej decyzji oceniającej — nie tylko końcowy wynik. Gdy organ ds. równości zażąda wyjaśnienia, dlaczego kandydat został odrzucony, musisz być w stanie wskazać konkretne czynniki (dopasowanie umiejętności, wagę doświadczenia, wyniki oceny), które zadecydowały o rezultacie.
Zapisy decyzji człowieka i odstępstw
Rejestruj, czy rekruter lub menedżer ds. zatrudnienia zaakceptował, zmodyfikował czy odrzucił rekomendację AI. Artykuł 14 wymaga znaczącego nadzoru ze strony człowieka — Twoje rejestry muszą wykazać, że to ludzie podejmują ostateczne decyzje dotyczące zatrudnienia, a nie jedynie zatwierdzają wyniki AI.
Wersja bazy danych referencyjnych
Artykuł 12(1) wymaga rejestrowania bazy danych referencyjnych, względem której zweryfikowano dane wejściowe. W przypadku AI w HR oznacza to zapisywanie wersji modelu wymagań stanowiska, wersji taksonomii umiejętności oraz wszelkich referencyjnych zbiorów danych wykorzystanych do kalibracji w momencie każdej decyzji.
Okresy użytkowania systemu
Rejestruj okresy, w których system selekcji AI był aktywny w ramach każdej kampanii rekrutacyjnej. Jeśli system został zaktualizowany lub ponownie skalibrowany w trakcie kampanii, zarejestruj to przejście, aby umożliwić sprawiedliwe porównanie kandydatów ocenianych pod różnymi wersjami modelu.
Kluczowe obowiązki w zakresie prowadzenia dokumentacji dla technologii HR
Rejestrowanie AI w HR musi równoważyć wymogi przechowywania wynikające z prawa pracy z zasadami minimalizacji danych RODO. Kluczowym napięciem jest to, że organy ds. równości mogą badać decyzje o zatrudnieniu po latach, podczas gdy RODO wymaga, aby dane osobowe nie były przechowywane dłużej niż to konieczne.
Przechowywanie: rządzi prawo pracy
AI Act wymaga minimum 6 miesięcy. Krajowe przepisy antydyskryminacyjne w zakresie zatrudnienia zazwyczaj wymagają przechowywania dokumentacji rekrutacyjnej przez 1–2 lata (zgodnie z wymogami odpowiadającymi EEOC w państwach członkowskich UE). Minimalizacja danych RODO ogranicza przechowywanie do krótszego obowiązującego okresu — przechowuj rejestry przez okres wymagany prawem, a następnie usuwaj.
Wnioski o dostęp kandydatów
Na mocy artykułu 15 RODO kandydaci mogą zażądać wszystkich przechowywanych o nich danych, w tym informacji o zautomatyzowanym podejmowaniu decyzji. Rejestry muszą być ustrukturyzowane tak, aby wniosek o dostęp kandydata mógł być efektywnie zrealizowany — indeksuj według identyfikatora kandydata i zapewnij, aby odzyskiwanie rejestrów nie wymagało ręcznego przeszukiwania nieustrukturyzowanych plików.
Ścieżka audytu dla organów ds. równości
Krajowe organy ds. równości badające potencjalną dyskryminację w rekrutacji z użyciem AI zażądają rejestrów decyzji. Rejestry muszą być ustrukturyzowane tak, aby wykazać, że decyzje nie opierały się na cechach chronionych — oraz muszą przedstawiać decyzję człowieka obok rekomendacji AI dla każdego kandydata.
Spójność między kampaniami
Gdy ten sam system AI jest wykorzystywany w wielu kampaniach rekrutacyjnych, rejestry muszą uchwycić zmiany wersji modelu i ponowne kalibracje. Dochodzenie porównujące wyniki między kampaniami musi być w stanie ustalić, czy różnice wynikają ze zmian modelu, czy z różnic w puli kandydatów.
Nakładanie się regulacji
Prowadzenie dokumentacji AI w HR znajduje się na styku prawa pracy, ochrony danych i regulacji antydyskryminacyjnych. Zgodność z artykułem 12 musi uwzględniać nakładające się obowiązki wynikające z wielu ram, z których każda nakłada własne wymogi dokumentacji i przechowywania.
Artykuł 15 RODO — Prawa dostępu osób, których dane dotyczą
Kandydaci i pracownicy mają prawo dostępu do informacji o zautomatyzowanym podejmowaniu decyzji, w tym do “istotnych informacji o zasadach ich podejmowania” oraz “znaczenia i przewidywanych konsekwencji”. Rejestry decyzji AI muszą być ustrukturyzowane tak, aby generować czytelne dla człowieka wyjaśnienia w odpowiedzi na wnioski o dostęp w ciągu 30-dniowego okresu odpowiedzi przewidzianego w RODO.
Dyrektywy o równym traktowaniu
Dyrektywy UE o równym traktowaniu (2006/54/WE, 2000/78/WE) zakazują dyskryminacji w zatrudnieniu. Gdy ciężar dowodu przenosi się na pracodawcę w sprawach o dyskryminację, rejestry decyzji AI stają się podstawowym dowodem na wykazanie niedyskryminacyjnego podejmowania decyzji. Rejestry muszą uchwycić wystarczający kontekst, aby odeprzeć zarzuty nieproporcjonalnego wpływu.
Krajowe przepisy o przechowywaniu danych zatrudnienia
Państwa członkowskie UE nakładają zróżnicowane okresy przechowywania dokumentacji zatrudnienia. Niemcy wymagają 6 miesięcy dla danych odrzuconych kandydatów (AGG §15(4)), Francja wymaga 5 lat dla dokumentacji roszczeń dyskryminacyjnych, a Holandia wymaga od 4 tygodni do 1 roku w zależności od kontekstu. Twoja polityka przechowywania rejestrów musi uwzględniać najbardziej restrykcyjne obowiązujące prawo krajowe.
Prawa konsultacyjne rady zakładowej
W jurysdykcjach z obowiązkową konsultacją rady zakładowej (Niemcy, Holandia, Austria) rejestry systemu AI mogą wymagać dostępności dla przedstawicieli pracowników. Architektura rejestrowania musi wspierać ograniczony dostęp na potrzeby przeglądu przez radę zakładową, zachowując jednocześnie prywatność poszczególnych kandydatów.
Typowe naruszenia wykrywane przez Scanara
Rejestrowanie przez print() zamiast uporządkowanego JSON
Kod oceny kandydatów wykorzystujący instrukcje print lub console.log do rejestrowania decyzji zamiast uporządkowanych zdarzeń JSON. Nieustrukturyzowane rejestry tekstowe nie mogą być niezawodnie przeszukiwane na potrzeby wniosków o dostęp kandydatów, audytów organów ds. równości ani zautomatyzowanego monitorowania — co narusza wymogi identyfikowalności artykułu 12.
Brak wersji modelu w zdarzeniach oceny
Punkty końcowe selekcji AI, które rejestrują wyniki kandydatów bez zapisywania wersji modelu, wersji algorytmu oceny lub parametrów konfiguracji. Gdy organ ds. równości bada decyzje sprzed sześciu miesięcy, musi być możliwe ustalenie, która wersja modelu wygenerowała każdy wynik.
Rejestry zapisywane na dysku lokalnym bez przechowywania
Zapisywanie rejestrów decyzji rekrutacyjnych AI do pamięci efemerycznej lub na dysk lokalny bez trwałego mechanizmu przechowywania. Roszczenia o dyskryminację w zatrudnieniu można składać do 2 lat po decyzji — rejestry przechowywane na efemerycznej infrastrukturze nie przetrwają, aby wesprzeć obronę pracodawcy.
Brak znacznika czasu w zdarzeniach wnioskowania AI
Zdarzenia oceny kandydatów pozbawione znaczników czasu ISO 8601. Uporządkowanie czasowe jest niezbędne do ustalenia, kiedy oceniono każdego kandydata, czy wersje modelu zmieniły się w trakcie kampanii oraz czy sekwencja decyzji wykazuje wzorce wymagające dochodzenia.
Lista kontrolna zgodności z artykułem 12 dla technologii HR
Rejestruj każdą decyzję dotyczącą zatrudnienia, na którą wpłynęła AI
Zapewnij, aby każdy wynik selekcji, ranking i rekomendacja generowały uporządkowane zdarzenie rejestru ze znacznikiem czasu, wersją modelu, odniesieniem do danych wejściowych, wynikiem wyjściowym i czynnikami przyczyniającymi się.
Umożliw monitorowanie stronniczości na podstawie rejestrów
Ustrukturyzuj rejestry, aby wspierały zautomatyzowane monitorowanie nieproporcjonalnego wpływu na cechy chronione. Uwzględnij zagregowane wskaźniki przejścia według grupy demograficznej, gdy jest to prawnie dozwolone.
Rejestruj osoby podejmujące decyzje
Rejestruj tożsamość rekruterów i menedżerów ds. zatrudnienia, którzy przeglądali wyniki AI, w tym ich ostateczną decyzję. Utrzymuj powiązanie między rekomendacją AI a działaniem człowieka dla każdego kandydata.
Wspieraj wnioski o dostęp kandydatów
Indeksuj rejestry według identyfikatora kandydata, aby umożliwić efektywną realizację wniosków o dostęp. Zapewnij, aby odzyskiwanie rejestrów mogło wytworzyć podsumowanie decyzji dotyczące konkretnego kandydata w ciągu 30-dniowego okresu odpowiedzi przewidzianego w RODO.
Stosuj okresy przechowywania właściwe dla danej jurysdykcji
Skonfiguruj zasady przechowywania według jurysdykcji: minimum 6 miesięcy (Niemcy AGG), do 5 lat (roszczenia dyskryminacyjne we Francji). Zautomatyzuj usuwanie po wygaśnięciu okresu przechowywania, aby zachować zgodność z minimalizacją danych RODO.
Najczęściej zadawane pytania
Powiązane zasoby
Artykuł 12: Prowadzenie dokumentacji
Pełne wymogi artykułu 12 we wszystkich branżach.
AI w HR — Centrum branżowe
Kompletny przewodnik zgodności z EU AI Act dla systemów AI w technologiach HR.
Artykuł 13: Przejrzystość dla technologii HR
Wymogi przejrzystości dla systemów AI w zatrudnieniu.
Artykuł 12: Prowadzenie dokumentacji dla opieki zdrowotnej
Rejestrowanie decyzji klinicznych i wymogi przechowywania MDR.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.