Artykuł 17: zarządzanie jakością w AI dla HR — EU AI Act

Jak wymogi zarządzania jakością z artykułu 17 EU AI Act stosują się do AI w HR — SZJ dla algorytmów rekrutacyjnych, audyty stronniczości, zgodność AI w zatrudnieniu.

Opublikowano 2 kwietnia 2026

Artykuł 17 EU AI Act nakłada na dostawców systemów AI wysokiego ryzyka obowiązek ustanowienia i utrzymywania systemu zarządzania jakością (SZJ). Dla firm HR tech jest to często zupełnie nowy obowiązek — w przeciwieństwie do ochrony zdrowia czy motoryzacji większość dostawców technologii HR nie funkcjonuje w ramach istniejących formalnych ram SZJ. Zgodnie z załącznikiem III, sekcja 4, systemy AI wykorzystywane w rekrutacji, wstępnej selekcji kandydatów, decyzjach o awansach i zarządzaniu personelem są klasyfikowane jako wysokiego ryzyka i podlegają pełnemu zakresowi artykułu 17.

Ta strona wyjaśnia, jakie elementy SZJ muszą wdrożyć dostawcy HR tech, jak zorganizować procesy zarządzania jakością dla narzędzi AI do rekrutacji i zarządzania personelem oraz jakie luki w procesach SZJ na poziomie kodu wykrywa Scanara w systemach AI HR tech.

Komponenty SZJ wymagane dla AI w HR tech

Proces zatwierdzania wersji modelu

Udokumentowany proces określający, kto ma uprawnienia do zatwierdzania nowych wersji modelu do wdrożenia produkcyjnego, jakie dowody walidacji są wymagane przed zatwierdzeniem (wyniki testów uprzedzeń, wskaźniki dokładności, raporty dotyczące sprawiedliwości) oraz jakie istnieją procedury wycofywania. W przeciwieństwie do ochrony zdrowia większość firm HR tech musi utworzyć ten proces od podstaw.

Zaplanowane procedury audytu uprzedzeń

Testowanie uprzedzeń musi być udokumentowanym, zaplanowanym procesem SZJ — a nie działaniem doraźnym. Określ częstotliwość audytów (zalecana kwartalna), grupy demograficzne do przetestowania, progi statystyczne dopuszczalnego odmiennego oddziaływania oraz działania naprawcze uruchamiane w przypadku przekroczenia progów. Przekształca to testowanie uprzedzeń z dobrej praktyki w formalną procedurę jakości.

Zarządzanie zmianami przy aktualizacjach modelu

Procedury regulujące sposób oceny, zatwierdzania i wdrażania zmian modelu (ponowne trenowanie, zmiany cech, korekty progów). Każda zmiana musi obejmować udokumentowaną ocenę skutków obejmującą dokładność, sprawiedliwość i potencjalne dalsze skutki dla wyników rekrutacji, zanim wdrożenie zostanie zatwierdzone.

Walidacja zgodności AI dostawcy

Przy korzystaniu z narzędzi AI podmiotów trzecich do rekrutacji podmioty stosujące mają obowiązki równoważne SZJ na mocy artykułu 26. Udokumentuj procedury walidacji deklaracji zgodności dostawcy, przeprowadzania niezależnych testów uprzedzeń narzędzi dostawcy oraz prowadzenia rejestrów dowodów zgodności dostawcy w ramach SZJ.

Procedury skarg i odwołań kandydatów

Udokumentowane procedury rozpatrywania skarg kandydatów dotyczących wyników decyzji AI, w tym ścieżki odwoławcze, procesy przeglądu przez człowieka i ścieżki eskalacji. Muszą one zasilać proces działań naprawczych SZJ, gdy wzorce skarg wskazują na systemowe problemy z jakością.

Kluczowe obowiązki SZJ dla HR tech

Artykuł 17 wymaga pisemnych zasad, procedur i instrukcji obejmujących cały cykl życia AI. Dla dostawców HR tech bez istniejącego SZJ oznacza to budowanie podstawowych procesów zarządzania jakością, które uwzględniają zarówno ogólne wymogi SZJ, jak i obowiązki właściwe dla zatrudnienia.

Kontrola projektowania algorytmów rekrutacyjnych

Artykuł 17 wymaga udokumentowanych procedur kontroli projektowania i weryfikacji. Dla HR tech oznacza to dokumentowanie sposobu projektowania algorytmów rekrutacyjnych, jakie cechy są wybierane (i wykluczane), jak identyfikowane i ograniczane są zmienne zastępcze cech chronionych oraz jak decyzje projektowe są weryfikowane pod kątem wymogów sprawiedliwości.

Testowanie i walidacja przed wdrożeniem

Pisemne procedury testowania i walidacji muszą obejmować testowanie dokładności w poszczególnych kategoriach stanowisk, testowanie uprzedzeń w grupach demograficznych oraz walidację względem historycznych wyników rekrutacji. Wyniki walidacji muszą być udokumentowane i przeanalizowane, zanim jakakolwiek wersja modelu zostanie zatwierdzona do użytku produkcyjnego.

Monitorowanie po wprowadzeniu do obrotu dla AI w zatrudnieniu

Ciągłe monitorowanie wdrożonych systemów AI rekrutacyjnych pod kątem pogorszenia wydajności, pojawiających się wzorców uprzedzeń oraz zmian w wynikach rekrutacji. Monitorowanie musi obejmować zautomatyzowane alerty, gdy wskaźniki niekorzystnego oddziaływania przekraczają progi, oraz udokumentowane procedury badania i rozwiązywania wykrytych problemów.

Kompetencje i szkolenia personelu

Udokumentuj wymagane kompetencje personelu opracowującego, wdrażającego i monitorującego systemy AI rekrutacyjne. Szkolenie musi obejmować zasady sprawiedliwości AI, prawo antydyskryminacyjne, konkretne procedury SZJ oraz sposób interpretacji wyników audytów uprzedzeń. Prowadź rejestry szkoleń jako dokumentację SZJ.

Nakładanie się przepisów

Chociaż HR tech nie dysponuje dedykowanymi ramami SZJ, takimi jak ISO 13485 w ochronie zdrowia, kilka obowiązków regulacyjnych nakłada się na artykuł 17 i może zapewnić strukturę do zbudowania zgodnego SZJ.

ISO 42001 — Systemy zarządzania AI

ISO 42001 zapewnia najbardziej bezpośrednio stosowalne ramy dla firm HR tech budujących SZJ zgodny z AI Act. Obejmuje zarządzanie AI, zarządzanie ryzykiem, zarządzanie danymi i monitorowanie wydajności — ściśle odpowiadając wymogom artykułu 17 i zapewniając certyfikowalną strukturę systemu zarządzania.

ISO 9001 — Ogólny SZJ

ISO 9001 zapewnia podstawowe ramy SZJ (nadzór nad dokumentami, przegląd zarządzania, działania naprawcze, audyt wewnętrzny) wymagane przez artykuł 17. Firmy HR tech bez istniejącego SZJ powinny rozważyć ISO 9001 jako strukturalny kręgosłup, rozszerzony o procedury właściwe dla AI i zatrudnienia.

Dyrektywy w sprawie równego traktowania

Unijne dyrektywy w sprawie równego traktowania (2000/43/WE, 2000/78/WE) zakazują dyskryminacji w zatrudnieniu. Procedury SZJ z artykułu 17 dotyczące testowania uprzedzeń i monitorowania sprawiedliwości bezpośrednio wspierają zgodność z tymi dyrektywami. Dokumentowanie procedur audytu uprzedzeń w ramach SZJ tworzy weryfikowalny ślad działań antydyskryminacyjnych.

Rozliczalność RODO (art. 5 ust. 2)

Artykuł 5 ust. 2 RODO wymaga od administratorów wykazania zgodności z zasadami ochrony danych. Procedury SZJ zarządzania danymi wymagane przez artykuł 17 — obejmujące wybór, gromadzenie, adnotację i przechowywanie danych — nakładają się na wymogi rozliczalności RODO dotyczące dokumentowania zgodnego z prawem przetwarzania danych osobowych kandydatów.

Typowe naruszenia wykrywane przez Scanara

Brak wersjonowania modelu lub procesu zatwierdzania

Potoki wdrożeniowe, które przekazują aktualizacje modeli rekrutacyjnych do produkcji bez oznaczania wersji, bramek zatwierdzania lub udokumentowanego zatwierdzenia. Scanara oznacza konfiguracje CI/CD, w których artefakty modelu są wdrażane bezpośrednio bez procesu zatwierdzania — naruszając wymogi artykułu 17 dotyczące kontroli projektowania i weryfikacji.

Zmiany modelu bez oceny skutków zmiany

Ponowne trenowanie modelu, zmiany cech lub korekty progów wdrażane bez udokumentowanej oceny skutków zmiany. Scanara wykrywa potoki aktualizacji modelu pozbawione etapów oceny wpływu na sprawiedliwość lub w których zmiany są wdrażane bez oceny wpływu na wyniki rekrutacji w różnych grupach demograficznych.

Brak udokumentowanej procedury walidacji modelu

Systemy AI rekrutacyjne wdrażane bez udokumentowanej procedury walidacji określającej kryteria akceptacji dla dokładności i sprawiedliwości. Scanara identyfikuje wdrożenia pozbawione odniesień do raportów walidacji lub wyników audytu uprzedzeń albo w których etapy walidacji są całkowicie nieobecne w procesie wdrożenia.

Monitorowanie po wprowadzeniu do obrotu niepowiązane z działaniami naprawczymi

Systemy monitorowania, które śledzą wyniki rekrutacji lub wskaźniki uprzedzeń, ale nie mają zautomatyzowanej eskalacji do procesu działań naprawczych w przypadku przekroczenia progów. Scanara oznacza konfiguracje monitorowania, w których wykrycie niekorzystnego oddziaływania nie uruchamia udokumentowanych procesów badania i usuwania problemów.

Lista kontrolna zgodności z artykułem 17 dla HR tech

Art. 17(1)(a)

Strategia zgodności regulacyjnej

Udokumentuj strategię zgodności z AI Act obejmującą wszystkie systemy AI rekrutacyjne wysokiego ryzyka. Określ, które systemy są objęte zakresem, obowiązujące normy (ISO 42001, ISO 9001) oraz harmonogram wdrożenia SZJ.

Art. 17(1)(b)

Kontrola projektowania i weryfikacja

Ustanów procedury projektowania i weryfikacji algorytmów rekrutacyjnych, w tym przegląd wyboru cech, wykrywanie zmiennych zastępczych oraz działania weryfikacyjne w zakresie sprawiedliwości już na etapie projektowania.

Art. 17(1)(c)

Procedury testowania i walidacji

Zdefiniuj procedury walidacji obejmujące testowanie dokładności, audyt uprzedzeń w odniesieniu do cech chronionych oraz kryteria akceptacji, które muszą zostać spełnione przed wdrożeniem produkcyjnym.

Art. 17(1)(e)

Procedury zarządzania danymi

Ustanów procedury wyboru, gromadzenia, adnotacji, przechowywania i filtrowania danych kandydatów. Uwzględnij wymogi RODO dotyczące przetwarzania danych związanych z zatrudnieniem oraz zasady przechowywania danych.

Art. 17(1)(i)

Program audytu wewnętrznego

Wdróż program audytu wewnętrznego obejmujący nadzór nad modelami AI, zgodność testowania uprzedzeń, praktyki zarządzania danymi oraz skuteczność działań naprawczych. Planuj audyty co najmniej raz w roku.

Najczęściej zadawane pytania

Jak pomaga Scanara

Scanara automatyzuje zgodność z EU AI Act od kodu do dossier. Połącz swoje repozytoria GitHub i otrzymaj raporty zgodności w kilka minut.