29% osób pracujących w obszarze HR dostrzega błędy algorytmiczne i stronniczość rozwiązań AI jako kluczowe wyzwanie związane z wdrożeniem technologii HR Tech.
Unijna regulacja dotycząca sztucznej inteligencji, nazywana AI Act, wprowadzi nowe zasady dotyczące zastosowania technologii AI w obszarze zarządzania zasobami ludzkimi. Zgodnie z nowym prawodawstwem, narzędzia wykorzystywane w procesach rekrutacji, selekcji pracowników lub oceny efektywności zostały zaliczone do kategorii systemów o wysokim ryzyku. To z kolei wymusi wprowadzenie nadzoru człowieka w operacjach systemów, a także odpowiedniego przeszkolenia pracowników działów HR w zakresie odpowiedzialnego i legalnego korzystania z algorytmów.
Według informacji z serwisu eRecruiter zainteresowanie sztuczną inteligencją w rekrutacji rośnie w szybkim tempie. W 2024 roku już 25% z blisko 500 badanych przedsiębiorstw wykorzystywało rozwiązania oparte na AI, co oznacza czterokrotny wzrost w porównaniu z danymi z 2023 roku. Równocześnie tylko 15% organizacji zgłosiło posiadanie wewnętrznych wytycznych dotyczących etyki stosowania tej technologii w rekrutacji, podczas gdy 62% firm nie wprowadziło jeszcze żadnych regulacji dotyczących użytkowania narzędzi AI.
Badania przeprowadzone przez Polskie Forum HR zatytułowane „HR Tech Changer 2025” ukazują, że technologie cyfrowe oraz rozwiązania oparte na AI są najczęściej wykorzystywane do selekcjonowania kandydatów, prowadzenia procesów rekrutacyjnych, oceny zdolności oraz zarządzania aplikacjami. Ekspertka ds. zatrudnienia z Konfederacji Lewiatan, Nadia Winiarska, podkreśla, że sztuczna inteligencja coraz częściej wspiera nie tylko początkowy etap selekcji kandydatów, ale również dalsze etapy rekrutacji. – Systemy są coraz częściej automatyzowane, a niektóre czynności są przekazywane technologiom, co zwiększa efektywność działów HR i całego procesu rekrutacyjnego. W branżach takich jak przemysł czy logistyka, gdzie potrzeby kadrowe są dynamiczne, trudno wyobrazić sobie skuteczne zarządzanie zasobami ludzkimi bez wdrażania sztucznej inteligencji. Z perspektywy rynku pracy AI Act jest bardzo istotny, ponieważ stosowanie sztucznej inteligencji w systemach HR zostało uznane za systemy o wysokim ryzyku, co wymaga dodatkowych kroków – dodaje ekspertka.
Przepisy AI Act są implementowane stopniowo. Chociaż rozporządzenie oficjalnie weszło w życie 1 sierpnia 2024 roku, kolejne regulacje będą wprowadzane w etapach. Luty 2025 roku przyniesie m.in. zakazy dla wybranych praktyk oraz ogólne zasady dotyczące kompetencji związanych z sztuczną inteligencją. Następne elementy regulacji, obejmujące modele AI ogólnego zastosowania oraz ramy nadzoru, wejdą w życie od sierpnia 2025 roku. Najistotniejsze obowiązki dotyczące systemów wysokiego ryzyka, w tym zastosowań w obszarze HR, będą obowiązywać od 2 sierpnia 2026 roku, a pełne wprowadzenie regulacji planowane jest na rok później.
Załącznik III regulacji precyzuje, że do systemów o wysokim ryzyku zaliczają się m.in. narzędzia do tworzenia ogłoszeń rekrutacyjnych, a także do analizy i sortowania aplikacji oraz oceny kandydatów. Oznacza to potrzebę szczegółowego monitorowania procesu wprowadzania oraz użytkowania tych systemów. Pracodawcy zostaną zobowiązani do zarządzania ich funkcjonalnością, kontrolowania ich działania oraz jasnego informowania o zastosowaniu AI w procesie rekrutacji. Obowiązki informacyjne będą szczególnie istotne w kontekście sytuacji, gdy system wspiera selekcję kandydatów – osoby aplikujące będą musiały być o tym poinformowane jeszcze przed wykorzystaniem narzędzia.
Nowe regulacje kładą również nacisk na jakość danych używanych do trenowania systemów sztucznej inteligencji oraz na konieczność redukowania algorytmicznych uprzedzeń. W przypadku systemów o wysokim ryzyku będzie konieczne wdrożenie odpowiednich praktyk zarządzania danymi, w tym zapewnienie reprezentatywności zbiorów danych oraz identyfikowanie i ograniczanie ryzyka stronniczości algorytmów. Fakt ten ma duże znaczenie w procesach rekrutacyjnych, gdzie istnieje ryzyko niezamierzonej dyskryminacji. Algorytmy bowiem uczą się na podstawie danych historycznych, które mogą odzwierciedlać wcześniejsze wzorce zatrudnienia. Na przykład, jeśli w przeszłości na danym stanowisku dominowali mężczyźni, system może nieświadomie preferować kandydatów o podobnym profilu.
– Sztuczna inteligencja w procesie rekrutacji służy jako wsparcie, ale jednocześnie istotne jest, by te nowe narzędzia były wykorzystywane odpowiedzialnie, w przeciwnym wypadku AI może prowadzić do niepożądanych skutków, takich jak dyskryminacja. Znane są przypadki, gdzie błędne algorytmy w procesie rekrutacji skutkowały właśnie takim zjawiskiem, faworyzując pewne osoby lub grupy kandydatów z określonymi wspólnymi cechami – podsumowuje Nadia Winiarska.
Z badań Polskiego Forum HR wynika, że 29% profesjonalistów z branży HR widzi w błędach algorytmicznych oraz stronniczości systemów AI największe wyzwanie w kontekście implementacji technologii HR Tech. Dodatkowo 19% respondentów zwraca uwagę na ryzyko tzw. halucynacji AI, polegające na generowaniu przez systemy informacji, które mogą być fałszywe lub wprowadzające w błąd.
fot. freepik.com
oprac. /kp/
