Artykuł 10: zarządzanie danymi w AI dla HR — EU AI Act

Rozporządzenie nie ustala minimalnej wielkości danych, kwot ani listy grup chronionych. Ustala kryteria jakości i praktyki zarządzania.

• Praktyki zarządzania danymi

  Praktyki muszą być odpowiednie do przewidzianego zastosowania. Dotyczą wyborów projektowych, pozyskiwania danych i ich pochodzenia oraz, w przypadku danych osobowych, pierwotnego celu zbierania. Dotyczą przygotowania danych, np. adnotacji, etykietowania, czyszczenia, aktualizacji, wzbogacania i agregacji. Dotyczą też założeń co do tego, co dane mają mierzyć i przedstawiać, oraz oceny dostępności, ilości i przydatności zbiorów danych (art. 10 ust. 2 lit. a–e).

• Badanie stronniczości i środki

  Praktyki dotyczą także badania stronniczości, która może wpływać na zdrowie i bezpieczeństwo, naruszać prawa podstawowe lub prowadzić do zakazanej dyskryminacji. Obejmują środki wykrywania, zapobiegania i ograniczania tej stronniczości oraz wskazanie luk w danych, które uniemożliwiają zgodność z rozporządzeniem (art. 10 ust. 2 lit. f–h).

• Jakość zbiorów danych

  Zbiory danych muszą być adekwatne, wystarczająco reprezentatywne oraz w jak największym stopniu wolne od błędów i kompletne w świetle przeznaczenia systemu. Muszą mieć odpowiednie właściwości statystyczne, w tym, w stosownych przypadkach, w odniesieniu do osób lub grup osób, wobec których system ma być wykorzystywany (art. 10 ust. 3).

• Otoczenie wykorzystania

  Zbiory danych muszą uwzględniać, w zakresie wymaganym przez przewidziane zastosowanie, cechy właściwe dla geograficznego, kontekstowego, behawioralnego lub funkcjonalnego otoczenia wykorzystania (art. 10 ust. 4).

• Systemy bez trenowania modeli

  W przypadku systemów AI wysokiego ryzyka, które nie trenują modeli AI, art. 10 ust. 2–4 i art. 4a ust. 1 stosuje się tylko do zbiorów danych testowych (art. 10 ust. 6).

„Technologia HR” nie jest kategorią w rozporządzeniu. Liczy się zastosowanie wymienione w załączniku III pkt 4 („Zatrudnienie, zarządzanie pracownikami i dostęp do samozatrudnienia”).

• Pkt 4 lit. a: rekrutacja i wybór

  Systemy AI przeznaczone do wykorzystywania do celów rekrutacji lub wyboru osób fizycznych, w szczególności do celów umieszczania ukierunkowanych ogłoszeń o pracę, analizowania i filtrowania podań o pracę oraz do oceny kandydatów.

• Pkt 4 lit. b: stosunki pracy

  Systemy AI przeznaczone do wykorzystywania do celów podejmowania decyzji wpływających na warunki stosunków pracy, decyzji o awansie lub rozwiązaniu umownego stosunku pracy, przydzielania zadań w oparciu o indywidualne zachowanie lub cechy osobowości lub charakter lub do monitorowania lub oceny wydajności i zachowania osób pozostających w takich stosunkach.

• Istnieje wyjątek i nigdy nie obejmuje on profilowania

  System AI z załącznika III nie jest systemem wysokiego ryzyka, jeżeli nie stwarza znaczącego ryzyka szkody dla zdrowia, bezpieczeństwa lub praw podstawowych osób fizycznych, w tym przez to, że nie wpływa istotnie na wynik procesu decyzyjnego. Odstępstwo ma zastosowanie tylko wtedy, gdy spełniony jest którykolwiek z czterech warunków z art. 6 ust. 3 lit. a–d. System, który dokonuje profilowania osób fizycznych, jest zawsze systemem wysokiego ryzyka. Dostawca, który uważa, że jego system nie jest systemem wysokiego ryzyka, musi udokumentować swoją ocenę przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku (art. 6 ust. 4). Komisja miała przedstawić wytyczne z praktycznymi przykładami nie później niż do 2 lutego 2026 r. (art. 6 ust. 5).

• Twórca oprogramowania jest dostawcą, a pracodawca, który z niego korzysta, podmiotem wdrażającym

  Dostawca to osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który rozwija system AI lub zleca jego rozwój i wprowadza go do obrotu lub oddaje do użytku pod własną nazwą lub znakiem towarowym (art. 3 pkt 3). Dostawcy systemów wysokiego ryzyka muszą zapewnić zgodność swoich systemów z wymogami sekcji 2 (art. 8–15) (art. 16 lit. a). Podmiot wdrażający (w rozporządzeniu: podmiot stosujący) to osoba fizyczna lub prawna, organ publiczny, agencja lub inny podmiot, który wykorzystuje system AI pod własnym zarządem, chyba że system jest wykorzystywany w ramach osobistej działalności o charakterze niezawodowym (art. 3 pkt 4). Pracodawca, który korzysta z systemu HR, jest podmiotem wdrażającym i podlega obowiązkom z art. 26. Podmiot wdrażający staje się dostawcą, jeżeli umieszcza swoją nazwę lub znak towarowy na systemie wysokiego ryzyka już wprowadzonym do obrotu, dokonuje w nim istotnej zmiany lub zmienia przeznaczenie systemu w taki sposób, że staje się on systemem wysokiego ryzyka (art. 25 ust. 1).

• Terminy, starsze systemy i wyłączenia z zakresu stosowania

  Wymogi dla systemów z załącznika III obowiązują od 2 grudnia 2027 (art. 113 lit. c ppkt (i)). System AI wysokiego ryzyka wprowadzony do obrotu lub oddany do użytku przed tą datą jest objęty przepisami tylko wtedy, gdy od tej daty podlega istotnym zmianom w swoim projekcie. W każdym razie dostawcy i podmioty wdrażające systemy AI wysokiego ryzyka przeznaczone do wykorzystywania przez organy publiczne muszą podjąć niezbędne kroki, aby spełnić wymogi do 2 sierpnia 2030 (art. 111 ust. 2). Rozporządzenia nie stosuje się do obszarów wykraczających poza zakres prawa Unii (art. 2 ust. 3), do systemów lub modeli AI, w tym ich wyników, opracowanych i oddanych do użytku wyłącznie do celów badań naukowych i prac rozwojowych (art. 2 ust. 6) ani do działalności badawczej, testowej i rozwojowej prowadzonej przed wprowadzeniem systemu do obrotu lub oddaniem go do użytku; testowanie w warunkach rzeczywistych nie jest wyłączone (art. 2 ust. 8). Nie stosuje się go do obowiązków podmiotów wdrażających będących osobami fizycznymi, które wykorzystują systemy AI w ramach czysto osobistej działalności o charakterze niezawodowym (art. 2 ust. 10). Systemy AI udostępniane na podstawie bezpłatnych licencji otwartego oprogramowania są wyłączone, chyba że zostaną wprowadzone do obrotu lub oddane do użytku jako systemy wysokiego ryzyka albo jako systemy objęte art. 5 lub 50 (art. 2 ust. 12).

• Art. 4a dopuszcza szczególne kategorie danych do wykrywania stronniczości, pod warunkami

  Dostawcy systemów wysokiego ryzyka mogą wyjątkowo przetwarzać szczególne kategorie danych osobowych w zakresie ściśle niezbędnym do wykrywania i korygowania stronniczości zgodnie z art. 10 ust. 2 lit. f i g, jeżeli spełnione są wszystkie warunki z art. 4a ust. 1, na przykład że inne dane, także syntetyczne lub zanonimizowane, nie pozwalają osiągnąć celu. Podmioty wdrażające systemy wysokiego ryzyka mogą to robić na podstawie art. 4a ust. 2, na tych samych warunkach i z tymi samymi zabezpieczeniami. Art. 4a ust. 2 nie tworzy obowiązku wykrywania i korygowania stronniczości. RODO nadal obowiązuje obok niego (art. 2 ust. 7).

• Pracodawcy: dane wejściowe pod ich kontrolą

  W zakresie, w jakim podmiot wdrażający sprawuje kontrolę nad danymi wejściowymi, zapewnia on, aby dane wejściowe były adekwatne i wystarczająco reprezentatywne w świetle przeznaczenia systemu wysokiego ryzyka (art. 26 ust. 4).

• Brak kwot, listy cech chronionych i miary sprawiedliwości

  Rozporządzenie nie ustala kwot ani reguły parytetu demograficznego a art. 10 nie wymienia cech chronionych; odnosi się do dyskryminacji zakazanej na mocy prawa Unii (art. 10 ust. 2 lit. f). Inne przepisy wymieniają cechy wrażliwe do własnych celów (art. 5 ust. 1 lit. g, załącznik III pkt 1 lit. b). Dostawca decyduje, jak badać i mierzyć stronniczość w odniesieniu do przeznaczenia swojego systemu.

• Dla art. 10 ust. 4 istnieje domniemanie zgodności

  Systemy AI wysokiego ryzyka, które wytrenowano i przetestowano na danych odzwierciedlających szczególne otoczenie geograficzne, behawioralne, kontekstowe lub funkcjonalne, w którym mają być wykorzystywane, uznaje się za spełniające odpowiednie wymogi art. 10 ust. 4 (art. 42 ust. 1).

• Rozporządzenie nie wymienia żadnej normy; istnieją normy zharmonizowane i wytyczne

  Samo rozporządzenie nie wymienia żadnej normy dla jakości danych. Wymaga uwzględnienia powszechnie uznawanego stanu wiedzy technicznej (art. 8 ust. 1). Systemy AI wysokiego ryzyka zgodne z normami zharmonizowanymi, do których odniesienia opublikowano w Dzienniku Urzędowym, uznaje się za zgodne z wymogami sekcji 2, które te normy obejmują (art. 40 ust. 1). Komisja opracowuje wytyczne dotyczące stosowania wymogów art. 8–15 (art. 96 ust. 1 lit. a). Każda inna norma, z której korzysta dostawca, jest dobrowolnym wyborem projektowym.

To przykłady, nie wymogi.

• Przykład: reprezentatywność (art. 10 ust. 3)

  Dostawca narzędzia do wstępnej selekcji CV sprawdza, czy jego dane treningowe, walidacyjne i testowe obejmują grupy kandydatów, dla których narzędzie jest przeznaczone, i odnotowuje każdą lukę (art. 10 ust. 2 lit. h).

• Przykład: pętle sprzężenia zwrotnego (art. 10 ust. 2 lit. f)

  Narzędzie rankingowe wytrenowane na dawnych decyzjach o zatrudnieniu może powielać dawne wzorce. Dostawca bada to zwłaszcza wtedy, gdy wyniki narzędzia wpływają na dane, z których ono później się uczy.

• Artykuł 10: zarządzanie danymi dla AI wysokiego ryzyka

  Artykuł tak, jak formułuje go rozporządzenie, dla wszystkich sektorów.

• Rozporządzenie AI HR: zgodność w technologii HR

  Jak rozporządzenie obejmuje AI do rekrutacji, wyboru i zarządzania pracownikami.

• Artykuł 9: zarządzanie ryzykiem w AI dla HR — EU AI Act

  Zarządzanie ryzykiem przez cały cykl życia w technologii HR.

• Artykuł 13: przejrzystość w AI dla HR — EU AI Act

  Instrukcja obsługi w technologii HR i kto informuje kandydatów i pracowników.