Artykuł 13: przejrzystość w AI dla HR — EU AI Act
Jak wymogi przejrzystości z artykułu 13 EU AI Act stosują się do AI w HR i rekrutacji — powiadamianie kandydatów, wyjaśnialność ocen, informowanie rady zakładowej.
Artykuł 13 EU AI Act wymaga, aby systemy AI wysokiego ryzyka były wystarczająco przejrzyste, aby podmioty stosujące mogły interpretować wyniki i odpowiednio je wykorzystywać. W obszarze HR i rekrutacji przejrzystość ma podstawowe znaczenie dla ochrony praw kandydatów i zapobiegania dyskryminacyjnej automatyzacji. Zgodnie z załącznikiem III, sekcja 4, systemy AI wykorzystywane do rekrutacji, selekcji, filtrowania lub oceny kandydatów, a także systemy podejmujące decyzje o awansie, zwolnieniu lub przydziale zadań, są klasyfikowane jako systemy wysokiego ryzyka i podlegają pełnym obowiązkom w zakresie przejrzystości z artykułu 13.
Ta strona wyjaśnia, w jaki sposób wymogi przejrzystości z artykułu 13 mają zastosowanie w szczególności do technologii HR — od selekcji CV po ocenę wyników — w tym powiadamianie kandydatów, instrukcje dla menedżerów HR, ujawnianie informacji radzie zakładowej oraz jakie naruszenia na poziomie kodu wykrywa Scanara w systemach AI stosowanych w zatrudnieniu.
Które systemy AI w HR muszą być przejrzyste?
Selekcja i wstępny wybór CV
Systemy AI, które filtrują, klasyfikują lub oceniają zgłoszenia kandydatów, muszą wyjaśniać, które czynniki zadecydowały o rankingu. “Nieprzejrzysty wynik AI: 72/100 — kandydat odrzucony” bez wyjaśnienia współprzyczyniających się kryteriów jest niezgodny z artykułem 13(1).
Zautomatyzowana analiza rozmów kwalifikacyjnych
Narzędzia analizy wideo lub głosu oceniające kandydatów podczas rozmów kwalifikacyjnych muszą ujawnić kandydatom, że AI analizuje ich odpowiedzi, mowę ciała lub wzorce mowy. Metodologia analizy i oceniane czynniki muszą być przejrzyste.
Systemy oceny wyników
Systemy AI monitorujące produktywność pracowników, generujące wyniki oceny lub rekomendujące decyzje o awansie i zwolnieniu muszą być przejrzyste zarówno dla ocenianych pracowników, jak i dla menedżerów korzystających z wyników.
Przydział zadań i zarządzanie personelem
Systemy przydzielające zadania, zmiany lub rozkład pracy na podstawie analizy AI muszą dostarczać pracownikom informacji o tym, jak podejmowane są decyzje o przydziale, w szczególności gdy wpływają one na warunki pracy lub wynagrodzenie.
AI do analizy nastrojów i zaangażowania pracowników
AI analizująca komunikację lub ankiety pracowników w celu oceny nastrojów musi informować pracowników o monitorowaniu i wyjaśniać, w jaki sposób analiza jest wykorzystywana. Należy zauważyć, że rozpoznawanie emocji w miejscu pracy jest zakazane na mocy artykułu 5(1)(f), z wyjątkiem celów bezpieczeństwa lub medycznych.
Kluczowe obowiązki w zakresie przejrzystości dla technologii HR
Artykuł 13 wymaga instrukcji użytkowania, które umożliwiają podmiotom stosującym odpowiednie interpretowanie wyników AI. W przypadku technologii HR oznacza to, że instrukcje muszą być napisane dla menedżerów HR i rekruterów — a nie tylko dla personelu technicznego — i muszą wyjaśniać, jak prawidłowo ważyć zalecenia AI, nie ulegając błędowi automatyzacji.
Kandydaci muszą wiedzieć, że wykorzystano AI
Artykuł 13(3) i artykuł 50(1) wymagają, aby kandydaci byli informowani, gdy AI jest wykorzystywana w decyzjach dotyczących selekcji lub wstępnego wyboru. Uzupełnia to artykuł 22 GDPR, który przyznaje osobom prawa dotyczące zautomatyzowanych decyzji wywołujących skutki prawne lub podobnie istotne. Powiadomienie musi nastąpić przed decyzją lub w jej momencie.
Czynniki oceny muszą być wyjaśnialne
Menedżerowie HR muszą być w stanie zrozumieć, które czynniki zadecydowały o zaleceniu AI. Artykuł 13(1) wymaga, aby wyniki były interpretowalne — wynik kandydata bez wyjaśnienia współprzyczyniających się kryteriów uniemożliwia rekruterowi podjęcie świadomej, niezautomatyzowanej decyzji.
Rady zakładowe muszą zostać poinformowane
W wielu państwach członkowskich UE przedstawiciele pracowników muszą zostać poinformowani przed wdrożeniem narzędzi AI w miejscu pracy. Niemiecka ustawa BetrVG §87 i francuska loi travail wymagają konsultacji z radą zakładową w sprawie systemów AI wpływających na warunki pracy. Instrukcje użytkowania z artykułu 13 muszą być dostępne dla tych organów.
Instrukcje muszą zapobiegać błędowi automatyzacji
Instrukcje z artykułu 13 muszą wyjaśniać menedżerom HR, jak prawidłowo ważyć zalecenia AI. Nadmierne poleganie na wynikach AI podważa nadzór ze strony człowieka wymagany przez artykuł 14. Instrukcje muszą określać, kiedy ocena człowieka powinna zastąpić system oraz jak rozpoznać potencjalnie błędne zalecenia.
Nakładanie się przepisów
Przejrzystość AI w HR przecina się z prawem pracy, ochroną danych i ramami antydyskryminacyjnymi w państwach członkowskich UE. Zgodność z artykułem 13 musi uwzględniać te nakładające się obowiązki.
GDPR artykuł 22 — Prawa dotyczące decyzji zautomatyzowanych
GDPR przyznaje osobom prawo do tego, by nie podlegać decyzji opierającej się wyłącznie na zautomatyzowanym przetwarzaniu, wywołującej skutki prawne lub podobnie istotne. Selekcja w rekrutacji w pełni mieści się w tym zakresie. Artykuł 13 dodaje wymogi przejrzystości na poziomie systemu, które uzupełniają prawa jednostki wynikające z GDPR — oba muszą być spełnione.
Dyrektywy o równym traktowaniu
Dyrektywa w sprawie równości rasowej (2000/43/WE) i dyrektywa w sprawie równego traktowania w zakresie zatrudnienia (2000/78/WE) zakazują dyskryminacji w zatrudnieniu. Przejrzystość co do czynników oceny AI jest niezbędna do wykazania, że system nie dyskryminuje z zakazanych powodów. Nieprzejrzyste wyniki AI uniemożliwiają weryfikację zgodności z prawem antydyskryminacyjnym.
Niemiecka ustawa BetrVG §87 — Współdecydowanie rady zakładowej
Niemieckie prawo o ustroju zakładowym przyznaje radom zakładowym prawa współdecydowania w odniesieniu do urządzeń technicznych monitorujących zachowanie i wyniki pracowników. Narzędzia AI do rekrutacji i oceny wymagają zgody rady zakładowej przed wdrożeniem. Instrukcje użytkowania z artykułu 13 muszą zostać przekazane radom zakładowym, aby umożliwić świadomą zgodę.
Dyrektywa o pracownikach platform (projekt)
Unijna dyrektywa o pracownikach platform wprowadza wymogi przejrzystości dla algorytmicznego zarządzania pracownikami platform, w tym wyjaśnienia decyzji zautomatyzowanych wpływających na warunki pracy, przydział zadań i zwolnienie. Wymogi te wzmacniają i rozszerzają obowiązki z artykułu 13 dla systemów AI w gospodarce fuchowej.
Typowe naruszenia wykrywane przez Scanara
Odrzucenie kandydata bez ujawnienia AI
Kod powiadomienia o odrzuceniu, który wysyła “Twoja aplikacja nie powiodła się” bez ujawnienia, że AI była zaangażowana w decyzję o selekcji. Artykuł 13(3) i artykuł 50(1) wymagają informowania kandydatów o zaangażowaniu AI — Scanara oznacza punkty końcowe odrzucenia pozbawione pól ujawniających.
Nieprzejrzysta ocena bez wyjaśnienia czynników
Odpowiedzi API zwracające wyniki kandydatów bez towarzyszącego wyjaśnienia, które kryteria oceny przyczyniły się do wyniku. Zwracanie rankingu liczbowego bez interpretowalnego kontekstu uniemożliwia menedżerom HR odpowiednie wykorzystanie wyniku, zgodnie z wymogiem artykułu 13(1).
Brak ujawnienia interakcji z AI w narzędziach do rozmów kwalifikacyjnych
Platformy rozmów wideo, które analizują odpowiedzi kandydatów bez wyświetlania wyraźnego powiadomienia, że AI jest wykorzystywana do oceny interakcji. Scanara wykrywa kod inicjalizacji sesji rozmowy kwalifikacyjnej pozbawiony komponentu ujawniającego lub nagłówka API.
Instrukcja użytkowania bez dokumentacji ograniczeń
Dokumentacja systemu, która opisuje możliwości selekcji AI bez udokumentowania znanych ograniczeń, takich jak pogorszenie dokładności dla niestandardowych formatów CV, uprzedzenia językowe lub obsługa przerw w karierze. Artykuł 13(3)(b)(i) wymaga ujawnienia ograniczeń oraz przewidywalnych scenariuszy niewłaściwego użycia.
Lista kontrolna zgodności z artykułem 13 dla technologii HR
Uczyń wyniki interpretowalnymi dla menedżerów HR
Zapewnij, aby rekruterzy i menedżerowie HR mogli zrozumieć, dlaczego AI zaleciła lub odrzuciła kandydata. Zapewnij wyjaśnienia na poziomie czynników obok wyników, a nie tylko rankingi liczbowe.
Powiadom kandydatów o zaangażowaniu AI
Poinformuj kandydatów, że AI jest wykorzystywana w procesie selekcji lub oceny. Powiadomienie powinno nastąpić w momencie składania aplikacji lub przed rozpoczęciem analizy AI, w jasnym i przystępnym języku.
Zapewnij instrukcje dotyczące właściwego użycia
Udokumentuj, jak menedżerowie HR powinni ważyć zalecenia AI, kiedy ocena człowieka powinna zastąpić system oraz jak rozpoznać potencjalnie błędne zalecenia. Uwzględnij znane ograniczenia i wskaźniki dokładności.
Zapewnij przejrzystość radom zakładowym
Udostępnij instrukcje użytkowania z artykułu 13 radom zakładowym i przedstawicielom pracowników przed wdrożeniem systemów AI w HR. Wspieraj procesy współdecydowania wystarczającymi szczegółami technicznymi dotyczącymi działania i wpływu systemu.
Ujawnij wskaźniki skuteczności i błędów
Raportuj dokładność, wskaźniki wyników fałszywie dodatnich/ujemnych oraz znane uprzedzenia w wynikach selekcji. Dezagreguj według istotnych grup demograficznych, aby wykazać, że system nie stawia w nieproporcjonalnie niekorzystnej sytuacji kategorii chronionych.
Często zadawane pytania
Powiązane zasoby
Artykuł 13: Przejrzystość
Pełne wymogi artykułu 13 we wszystkich branżach.
AI w HR — Centrum branżowe
Kompletny przewodnik po zgodności z EU AI Act dla AI w zasobach ludzkich i rekrutacji.
Artykuł 12: Prowadzenie rejestrów dla technologii HR
Wymogi dotyczące rejestrowania i prowadzenia rejestrów dla AI stosowanej w zatrudnieniu.
Artykuł 14: Nadzór ze strony człowieka dla technologii HR
Obowiązki nadzoru ze strony człowieka dla systemów AI stosowanych w zatrudnieniu.
Jak pomaga Scanara
Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.