Artykuł 15: dokładność i solidność w AI dla HR — EU AI Act

Jak wymogi dokładności i solidności z artykułu 15 EU AI Act stosują się do AI w HR — parytet demograficzny, niekorzystny wpływ, odporność na manipulację CV.

Opublikowano 2 kwietnia 2026

Artykuł 15 aktu w sprawie sztucznej inteligencji UE wymaga, aby systemy AI wysokiego ryzyka osiągały odpowiednie poziomy dokładności, solidności i cyberbezpieczeństwa przez cały cykl życia. W technologii HR dokładność nie jest jedynie metryką techniczną — jest wymogiem sprawiedliwości. System rekrutacyjny oparty na AI, który osiąga 85 % ogólnej dokładności, ale tylko 60 % dla określonej grupy demograficznej, jest niezgodny. Zgodnie z załącznikiem III sekcja 4 systemy AI wykorzystywane w zatrudnieniu, zarządzaniu pracownikami i dostępie do samozatrudnienia — w tym w rekrutacji, preselekcji, filtrowaniu i ocenie kandydatów — są klasyfikowane jako systemy wysokiego ryzyka.

Na tej stronie wyjaśniono, w jaki sposób obowiązki w zakresie dokładności, solidności i cyberbezpieczeństwa wynikające z artykułu 15 mają zastosowanie w szczególności do technologii HR — od preselekcji CV po ocenę wyników — w tym parytet dokładności demograficznej, analiza niekorzystnego wpływu, solidność wobec manipulacji przez kandydatów, kalibracja wyników oraz jakie naruszenia na poziomie kodu Scanara wykrywa w systemach AI HR.

Metryki dokładności dla systemów AI technologii HR

Parytet dokładności demograficznej

Dokładność musi być walidowana oddzielnie dla każdej grupy demograficznej. Ogólna dokładność 85 % przy 60 % dokładności dla określonej grupy demograficznej jest niezgodna. Artykuł 15 wymaga, aby dysproporcje wydajności między grupami chronionymi były identyfikowane, deklarowane i ograniczane — a nie ukrywane za zagregowanymi metrykami.

Wskaźnik niekorzystnego wpływu

Stosunek wskaźników selekcji między grupami demograficznymi musi być monitorowany w sposób ciągły. Reguła 4/5 (szeroko przejęta z wytycznych amerykańskiej EEOC i coraz częściej przywoływana w kontekstach UE) stanowi punkt odniesienia: jeżeli wskaźnik selekcji dla dowolnej grupy chronionej spada poniżej 80 % wskaźnika grupy najczęściej wybieranej, system wymaga zbadania i naprawy.

Kalibracja wyników

Wyniki kandydatów przyznawane przez AI muszą być dobrze skalibrowane: wynik 70/100 powinien odpowiadać kandydatom rzeczywiście w przybliżeniu równym pod względem dopasowania. Źle skalibrowane wyniki — w których między 70 a 80 nie ma istotnej różnicy w rzeczywistych wynikach pracy — podważają deklarację dokładności wymaganą przez artykuł 15 i wprowadzają w błąd menedżerów ds. rekrutacji polegających na wynikach AI.

Trafność predykcyjna

Systemy rekrutacyjne oparte na AI muszą wykazać, że ich predykcje korelują z rzeczywistymi wynikami pracy. System, który trafnie przewiduje, którzy kandydaci przejdą rozmowy kwalifikacyjne, ale nie którzy odniosą sukces na stanowisku, ma ograniczoną trafność predykcyjną. Artykuł 15 wymaga, aby zadeklarowana dokładność odzwierciedlała rzeczywiste wyniki, a nie metryki zastępcze.

Kluczowe obowiązki w zakresie dokładności i solidności dla technologii HR

Artykuł 15 wymaga, aby systemy AI wysokiego ryzyka były odporne na błędy, usterki i niespójności. W technologii HR obejmuje to solidność wobec manipulacji przez kandydatów (manipulacja CV), dryf koncepcyjny w miarę ewolucji rynków pracy oraz spójną punktację przy równoważnych danych wejściowych.

Solidność wobec manipulacji CV

Czy kandydaci mogą wykorzystać system poprzez upychanie słów kluczowych, sztuczki formatowania lub strategiczne sformułowania? Artykuł 15 wymaga odporności wobec danych wejściowych zaprojektowanych specjalnie w celu manipulowania wynikiem systemu. System preselekcji, który klasyfikuje CV wypełnione słowami kluczowymi znacznie wyżej niż równoważne merytorycznie CV, nie jest solidny.

Monitorowanie dryfu koncepcyjnego

Model wytrenowany na wzorcach rekrutacji z jednego okresu rynku pracy może osiągać słabe wyniki, gdy zmieniają się warunki rynkowe. Artykuł 15 wymaga dokładności przez cały cykl życia, co oznacza ciągłe śledzenie wydajności — a nie tylko walidację przed wdrożeniem. Wykrycie dryfu musi wyzwalać ponowną walidację lub ponowne trenowanie modelu.

Powtarzalność punktacji

Identyczne profile kandydatów przesłane w różnym czasie lub różnymi kanałami muszą otrzymywać spójne wyniki. Artykuł 15 wymaga spójnej wydajności przy identycznych danych wejściowych — system, który ocenia to samo CV inaczej w poniedziałek niż w piątek lub w zależności od różnych formatów przesyłania, jest niezgodny.

Odporność na manipulację przez osoby trzecie

Artykuł 15 wymaga odporności na próby zmiany wydajności systemu przez osoby trzecie. W HR obejmuje to ochronę przed manipulacją ze strony agencji rekrutacyjnych, usług pisania CV lub aplikacji generowanych przez AI zaprojektowanych w celu oszukania systemu punktacji.

Nakładające się przepisy

Wymogi dotyczące dokładności i solidności technologii HR przecinają się z prawem o dyskryminacji w zatrudnieniu, regulacją ochrony danych oraz ramami odpowiedzialności algorytmicznej. Sama zgodność z artykułem 15 jest niewystarczająca — te nakładające się obowiązki należy uwzględniać łącznie.

Dyrektywy w sprawie równego traktowania

Dyrektywy UE w sprawie równego traktowania zakazują dyskryminacji w zatrudnieniu ze względu na płeć, pochodzenie rasowe lub etniczne, religię, niepełnosprawność, wiek lub orientację seksualną. Dysproporcje dokładności między tymi grupami chronionymi to nie tylko kwestie zgodności z artykułem 15, lecz potencjalne naruszenia podstawowego prawa pracy UE.

Artykuł 22 RODO — Zautomatyzowane podejmowanie decyzji

Artykuł 22 RODO ogranicza decyzje oparte wyłącznie na zautomatyzowanym przetwarzaniu, które wywołują istotne skutki. Decyzje dotyczące zatrudnienia wchodzą w zakres tego przepisu. Wymogi dokładności z artykułu 15 uzupełniają zabezpieczenia RODO — niedokładne zautomatyzowane decyzje rekrutacyjne są podwójnie problematyczne w obu ramach.

Ramy odpowiedzialności algorytmicznej

Powstające wytyczne UE dotyczące odpowiedzialności algorytmicznej wymagają, aby organizacje dokumentowały dokładność, sprawiedliwość i niezawodność systemów AI wykorzystywanych w zatrudnieniu. Wymóg artykułu 15 dotyczący deklarowania poziomów dokładności jest zgodny z tymi ramami i zapewnia techniczną podstawę raportowania odpowiedzialności.

Wytyczne równoważne z wytycznymi EEOC

Chociaż reguła 4/5 pochodzi z wytycznych amerykańskiej EEOC, organy regulacyjne UE coraz częściej odwołują się do podobnych progów niekorzystnego wpływu w kontekstach rekrutacji algorytmicznej. Wymogi parytetu dokładności z artykułu 15 będą prawdopodobnie oceniane względem porównywalnych punktów odniesienia w praktyce egzekwowania prawa UE.

Typowe naruszenia wykrywane przez Scanara

Wyłącznie zagregowana dokładność bez stratyfikacji demograficznej

Potoki oceny, które obliczają wyłącznie ogólną dokładność bez rozbicia wydajności według grupy demograficznej. Scanara oznacza kod oceny pozbawiony metryk stratyfikowanych — artykuł 15 wymaga, aby dokładność była walidowana i deklarowana dla wszystkich grup chronionych, a nie raportowana jako pojedyncza zagregowana wartość.

Brak testów solidności wobec ataków przeciwnika dla danych wejściowych CV

Potoki CI/CD pozbawione testów solidności wobec ataków przeciwnika dla danych wejściowych kandydatów. Scanara oznacza przepływy oceny, które nie są testowane wobec CV wypełnionych słowami kluczowymi, manipulacji formatem lub aplikacji generowanych przez AI zaprojektowanych specjalnie w celu oszukania systemu punktacji.

Model wdrożony bez wykrywania dryfu koncepcyjnego

Modele AI HR wdrożone bez ciągłego monitorowania dryfu koncepcyjnego w miarę zmian rynków pracy i puli kandydatów. Scanara wykrywa potoki punktacji pozbawione mechanizmów wykrywania dryfu, alertów pogorszenia wydajności lub zaplanowanych czynników wyzwalających ponowną walidację.

Brak metryk wydajności w dokumentacji

Wdrożenia, w których metryki dokładności, wskaźniki niekorzystnego wpływu i wyniki kalibracji nie są uwzględnione w karcie modelu lub instrukcji obsługi. Artykuł 15 wymaga, aby poziomy dokładności oraz oczekiwane metryki wydajności były deklarowane w dokumentacji towarzyszącej.

Lista kontrolna zgodności z artykułem 15 dla technologii HR

Art. 15(1)

Osiągnięcie parytetu dokładności demograficznej

Zwaliduj dokładność dla wszystkich chronionych grup demograficznych. Zapewnij, aby żadna grupa nie doświadczała znacząco niższej dokładności niż populacja ogólna. Zadeklaruj metryki stratyfikowane w instrukcji obsługi.

Art. 15(2)

Zapewnienie solidności wobec manipulacji przez kandydatów

Przetestuj odporność wobec manipulacji CV, upychania słów kluczowych, manipulacji formatem oraz aplikacji generowanych przez AI. Udokumentuj progi solidności i znane wektory manipulacji.

Art. 15(3)

Monitorowanie i przeciwdziałanie dryfowi koncepcyjnemu

Wdróż ciągłe monitorowanie wydajności z wykrywaniem dryfu. Wyzwalaj ponowną walidację, gdy warunki rynku pracy, pule kandydatów lub rozkłady wyników zmieniają się w istotny sposób.

Art. 15(4)

Utrzymanie cyberbezpieczeństwa systemów punktacji

Chroń systemy punktacji oparte na AI przed nieuprawnioną modyfikacją danych treningowych, parametrów modelu lub algorytmów punktacji. Wdróż kontrole integralności i kontrole dostępu dla wszystkich komponentów.

Art. 15(5)

Zapewnienie kalibracji wyników i powtarzalności

Zweryfikuj, czy wyniki AI są dobrze skalibrowane względem rzeczywistych wyników pracy oraz czy identyczne profile kandydatów otrzymują spójne wyniki w czasie i między kanałami przesyłania.

Najczęściej zadawane pytania

Jak pomaga Scanara

Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.