Skip to main content

Artykuł 13: przejrzystość w AI dla HR — EU AI Act

Jak wymogi przejrzystości z artykułu 13 EU AI Act stosują się do AI w HR i rekrutacji — powiadamianie kandydatów, wyjaśnialność ocen, informowanie rady zakładowej.

Artykuł 13 EU AI Act wymaga, aby systemy AI wysokiego ryzyka były wystarczająco przejrzyste, aby podmioty stosujące mogły interpretować wyniki i odpowiednio je wykorzystywać. W obszarze HR i rekrutacji przejrzystość ma podstawowe znaczenie dla ochrony praw kandydatów i zapobiegania dyskryminacyjnej automatyzacji. Zgodnie z załącznikiem III, sekcja 4, systemy AI wykorzystywane do rekrutacji, selekcji, filtrowania lub oceny kandydatów, a także systemy podejmujące decyzje o awansie, zwolnieniu lub przydziale zadań, są klasyfikowane jako systemy wysokiego ryzyka i podlegają pełnym obowiązkom w zakresie przejrzystości z artykułu 13.

Ta strona wyjaśnia, w jaki sposób wymogi przejrzystości z artykułu 13 mają zastosowanie w szczególności do technologii HR — od selekcji CV po ocenę wyników — w tym powiadamianie kandydatów, instrukcje dla menedżerów HR, ujawnianie informacji radzie zakładowej oraz jakie naruszenia na poziomie kodu wykrywa Scanara w systemach AI stosowanych w zatrudnieniu.

Które systemy AI w HR muszą być przejrzyste?

Selekcja i wstępny wybór CV

Systemy AI, które filtrują, klasyfikują lub oceniają zgłoszenia kandydatów, muszą wyjaśniać, które czynniki zadecydowały o rankingu. “Nieprzejrzysty wynik AI: 72/100 — kandydat odrzucony” bez wyjaśnienia współprzyczyniających się kryteriów jest niezgodny z artykułem 13(1).

Zautomatyzowana analiza rozmów kwalifikacyjnych

Narzędzia analizy wideo lub głosu oceniające kandydatów podczas rozmów kwalifikacyjnych muszą ujawnić kandydatom, że AI analizuje ich odpowiedzi, mowę ciała lub wzorce mowy. Metodologia analizy i oceniane czynniki muszą być przejrzyste.

Systemy oceny wyników

Systemy AI monitorujące produktywność pracowników, generujące wyniki oceny lub rekomendujące decyzje o awansie i zwolnieniu muszą być przejrzyste zarówno dla ocenianych pracowników, jak i dla menedżerów korzystających z wyników.

Przydział zadań i zarządzanie personelem

Systemy przydzielające zadania, zmiany lub rozkład pracy na podstawie analizy AI muszą dostarczać pracownikom informacji o tym, jak podejmowane są decyzje o przydziale, w szczególności gdy wpływają one na warunki pracy lub wynagrodzenie.

AI do analizy nastrojów i zaangażowania pracowników

AI analizująca komunikację lub ankiety pracowników w celu oceny nastrojów musi informować pracowników o monitorowaniu i wyjaśniać, w jaki sposób analiza jest wykorzystywana. Należy zauważyć, że rozpoznawanie emocji w miejscu pracy jest zakazane na mocy artykułu 5(1)(f), z wyjątkiem celów bezpieczeństwa lub medycznych.

Kluczowe obowiązki w zakresie przejrzystości dla technologii HR

Artykuł 13 wymaga instrukcji użytkowania, które umożliwiają podmiotom stosującym odpowiednie interpretowanie wyników AI. W przypadku technologii HR oznacza to, że instrukcje muszą być napisane dla menedżerów HR i rekruterów — a nie tylko dla personelu technicznego — i muszą wyjaśniać, jak prawidłowo ważyć zalecenia AI, nie ulegając błędowi automatyzacji.

Kandydaci muszą wiedzieć, że wykorzystano AI

Artykuł 13(3) i artykuł 50(1) wymagają, aby kandydaci byli informowani, gdy AI jest wykorzystywana w decyzjach dotyczących selekcji lub wstępnego wyboru. Uzupełnia to artykuł 22 GDPR, który przyznaje osobom prawa dotyczące zautomatyzowanych decyzji wywołujących skutki prawne lub podobnie istotne. Powiadomienie musi nastąpić przed decyzją lub w jej momencie.

Czynniki oceny muszą być wyjaśnialne

Menedżerowie HR muszą być w stanie zrozumieć, które czynniki zadecydowały o zaleceniu AI. Artykuł 13(1) wymaga, aby wyniki były interpretowalne — wynik kandydata bez wyjaśnienia współprzyczyniających się kryteriów uniemożliwia rekruterowi podjęcie świadomej, niezautomatyzowanej decyzji.

Rady zakładowe muszą zostać poinformowane

W wielu państwach członkowskich UE przedstawiciele pracowników muszą zostać poinformowani przed wdrożeniem narzędzi AI w miejscu pracy. Niemiecka ustawa BetrVG §87 i francuska loi travail wymagają konsultacji z radą zakładową w sprawie systemów AI wpływających na warunki pracy. Instrukcje użytkowania z artykułu 13 muszą być dostępne dla tych organów.

Instrukcje muszą zapobiegać błędowi automatyzacji

Instrukcje z artykułu 13 muszą wyjaśniać menedżerom HR, jak prawidłowo ważyć zalecenia AI. Nadmierne poleganie na wynikach AI podważa nadzór ze strony człowieka wymagany przez artykuł 14. Instrukcje muszą określać, kiedy ocena człowieka powinna zastąpić system oraz jak rozpoznać potencjalnie błędne zalecenia.

Nakładanie się przepisów

Przejrzystość AI w HR przecina się z prawem pracy, ochroną danych i ramami antydyskryminacyjnymi w państwach członkowskich UE. Zgodność z artykułem 13 musi uwzględniać te nakładające się obowiązki.

GDPR artykuł 22 — Prawa dotyczące decyzji zautomatyzowanych

GDPR przyznaje osobom prawo do tego, by nie podlegać decyzji opierającej się wyłącznie na zautomatyzowanym przetwarzaniu, wywołującej skutki prawne lub podobnie istotne. Selekcja w rekrutacji w pełni mieści się w tym zakresie. Artykuł 13 dodaje wymogi przejrzystości na poziomie systemu, które uzupełniają prawa jednostki wynikające z GDPR — oba muszą być spełnione.

Dyrektywy o równym traktowaniu

Dyrektywa w sprawie równości rasowej (2000/43/WE) i dyrektywa w sprawie równego traktowania w zakresie zatrudnienia (2000/78/WE) zakazują dyskryminacji w zatrudnieniu. Przejrzystość co do czynników oceny AI jest niezbędna do wykazania, że system nie dyskryminuje z zakazanych powodów. Nieprzejrzyste wyniki AI uniemożliwiają weryfikację zgodności z prawem antydyskryminacyjnym.

Niemiecka ustawa BetrVG §87 — Współdecydowanie rady zakładowej

Niemieckie prawo o ustroju zakładowym przyznaje radom zakładowym prawa współdecydowania w odniesieniu do urządzeń technicznych monitorujących zachowanie i wyniki pracowników. Narzędzia AI do rekrutacji i oceny wymagają zgody rady zakładowej przed wdrożeniem. Instrukcje użytkowania z artykułu 13 muszą zostać przekazane radom zakładowym, aby umożliwić świadomą zgodę.

Dyrektywa o pracownikach platform (projekt)

Unijna dyrektywa o pracownikach platform wprowadza wymogi przejrzystości dla algorytmicznego zarządzania pracownikami platform, w tym wyjaśnienia decyzji zautomatyzowanych wpływających na warunki pracy, przydział zadań i zwolnienie. Wymogi te wzmacniają i rozszerzają obowiązki z artykułu 13 dla systemów AI w gospodarce fuchowej.

Typowe naruszenia wykrywane przez Scanara

Odrzucenie kandydata bez ujawnienia AI

Kod powiadomienia o odrzuceniu, który wysyła “Twoja aplikacja nie powiodła się” bez ujawnienia, że AI była zaangażowana w decyzję o selekcji. Artykuł 13(3) i artykuł 50(1) wymagają informowania kandydatów o zaangażowaniu AI — Scanara oznacza punkty końcowe odrzucenia pozbawione pól ujawniających.

Nieprzejrzysta ocena bez wyjaśnienia czynników

Odpowiedzi API zwracające wyniki kandydatów bez towarzyszącego wyjaśnienia, które kryteria oceny przyczyniły się do wyniku. Zwracanie rankingu liczbowego bez interpretowalnego kontekstu uniemożliwia menedżerom HR odpowiednie wykorzystanie wyniku, zgodnie z wymogiem artykułu 13(1).

Brak ujawnienia interakcji z AI w narzędziach do rozmów kwalifikacyjnych

Platformy rozmów wideo, które analizują odpowiedzi kandydatów bez wyświetlania wyraźnego powiadomienia, że AI jest wykorzystywana do oceny interakcji. Scanara wykrywa kod inicjalizacji sesji rozmowy kwalifikacyjnej pozbawiony komponentu ujawniającego lub nagłówka API.

Instrukcja użytkowania bez dokumentacji ograniczeń

Dokumentacja systemu, która opisuje możliwości selekcji AI bez udokumentowania znanych ograniczeń, takich jak pogorszenie dokładności dla niestandardowych formatów CV, uprzedzenia językowe lub obsługa przerw w karierze. Artykuł 13(3)(b)(i) wymaga ujawnienia ograniczeń oraz przewidywalnych scenariuszy niewłaściwego użycia.

Lista kontrolna zgodności z artykułem 13 dla technologii HR

Art. 13(1)

Uczyń wyniki interpretowalnymi dla menedżerów HR

Zapewnij, aby rekruterzy i menedżerowie HR mogli zrozumieć, dlaczego AI zaleciła lub odrzuciła kandydata. Zapewnij wyjaśnienia na poziomie czynników obok wyników, a nie tylko rankingi liczbowe.

Art. 50(1)

Powiadom kandydatów o zaangażowaniu AI

Poinformuj kandydatów, że AI jest wykorzystywana w procesie selekcji lub oceny. Powiadomienie powinno nastąpić w momencie składania aplikacji lub przed rozpoczęciem analizy AI, w jasnym i przystępnym języku.

Art. 13(3)(b)

Zapewnij instrukcje dotyczące właściwego użycia

Udokumentuj, jak menedżerowie HR powinni ważyć zalecenia AI, kiedy ocena człowieka powinna zastąpić system oraz jak rozpoznać potencjalnie błędne zalecenia. Uwzględnij znane ograniczenia i wskaźniki dokładności.

BetrVG §87

Zapewnij przejrzystość radom zakładowym

Udostępnij instrukcje użytkowania z artykułu 13 radom zakładowym i przedstawicielom pracowników przed wdrożeniem systemów AI w HR. Wspieraj procesy współdecydowania wystarczającymi szczegółami technicznymi dotyczącymi działania i wpływu systemu.

Art. 13(3)(b)(ii)

Ujawnij wskaźniki skuteczności i błędów

Raportuj dokładność, wskaźniki wyników fałszywie dodatnich/ujemnych oraz znane uprzedzenia w wynikach selekcji. Dezagreguj według istotnych grup demograficznych, aby wykazać, że system nie stawia w nieproporcjonalnie niekorzystnej sytuacji kategorii chronionych.

Często zadawane pytania

Powiązane zasoby


Jak pomaga Scanara

Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.