AI Akt změní pravidla využívání umělé inteligence v oblasti lidských zdrojů

Evropská legislativa o umělé inteligenci, známá jako AI Akt, provede změny v užívání AI technologií v oblasti správy lidských zdrojů. Podle nových pravidel byly nástroje používané při náborových procesech, výběru uchazečů a hodnocení zaměstnanců zařazeny mezi systémy s vysokým rizikem. To povede k potřebě zajistit dozor člověka nad funkcí těchto systémů a k odpovídajícímu školení pracovníků v HR, aby mohli algoritmy používat zodpovědně a v souladu se zákonem.

Podle údajů z platformy eRecruiter roste zájem o umělou inteligenci v náborových procesech rychlým tempem. V roce 2024 již čtvrtina z téměř 500 zkoumaných firem využila AI řešení, což představuje čtyřnásobný nárůst oproti roku 2023. Současně pouze 15 % podniků přiznalo existenci vnitřních směrnic pro etické využívání této technologie v oblasti náboru. Na druhou stranu 62 % organizací dosud nezavedlo žádné systémové postupy pro regulaci používání nástrojů umělé inteligence.

Studie „HR Tech Changer 2025“, kterou připravilo Polské fórum HR, ukazuje, že digitální technologie a AI řešení se nejčastěji používají pro výběr uchazečů, realizaci náborových procesů, hodnocení dovedností a správu databází uchazečů. Jak podotýká specialistka na zaměstnanost z konfederace Lewiatan, Nadia Winiarska, umělá inteligence čím dál více pomáhá nejen v počáteční fázi výběru uchazečů, ale i v dalších etapách náboru. – Systémy se stále častěji automatizují, některé úkoly jsou delegovány technologiím, což zefektivňuje práci HR oddělení a celý proces náboru. V oborech jako je například průmysl nebo skladová ekonomika, kde je třeba průběžně doplňovat pracovní síly, je obtížné si představit řízení lidských zdrojů a nábor bez využití umělé inteligence. Z pohledu trhu práce má AI Akt zásadní význam, protože použití umělé inteligence v systémech pro správu lidských zdrojů bylo považováno za vysoce rizikové systémy, což vyžaduje dodatečné kroky – říká odbornice.

Pravidla AI Akt jsou postupně zaváděna. I když regulace oficiálně začala platit 1. srpna 2024, jednotlivá ustanovení vstupují v účinnost postupně. Únor 2025 přinesl mimo jiné zákazy určitých praktik a celkové principy vztahující se na kompetence v oblasti umělé inteligence. Další aspekty regulace, včetně modelů AI určených k širokému použití a dozorových rámců, budou platit od srpna 2025. Hlavní povinnosti týkající se systémů s vysokým rizikem, včetně těch využívaných v HR, vstoupí v platnost 2. srpna 2026, a úplné provedení plánu je naplánováno na následující rok.

V příloze III nařízení je uvedeno, že mezi systémy s vysokým rizikem patří i nástroje používané pro tvorbu pracovních inzerátů, analýzu a filtrování žádostí či hodnocení uchazečů. V praxi to znamená nutnost pečlivě sledovat způsob nasazení a funkci těchto systémů. Zaměstnavatelé budou mít povinnost řídit jejich činnost, monitorovat jejich výkon a jasně informovat o využití AI v náborovém procesu. Povinnost informace se zaměří zejména na situace, kdy systém pomáhá při výběru uchazečů – osoby ucházející se o práci by měly být o tomto informovány před použitím nástrojů.

Nová pravidla specifikují také důležitost kvality dat používaných k trénování systémů umělé inteligence a potřebu minimalizovat algoritmické předpojatosti. U systémů s vysokým rizikem bude třeba aplikovat adekvátní datové metody, včetně zajištění reprezentativnosti datových souborů a identifikace a omezování rizika zaujatosti algoritmů. To je obzvlášť důležité v náborových procesech, kde může existovat riziko nevědomé diskriminace. Algoritmy se totiž učí na základě historických dat, která mohou odrážet předchozí vzorce zaměstnávání. Například, pokud v minulosti byli na určitou pozici přijímáni převážně muži, systém může nevědomě preferovat uchazeče s podobným profilem.

– Umělá inteligence v náboru je podpůrným nástrojem, avšak je důležité si uvědomit, že tyto nové technologie by měly být používány zodpovědně, aby AI nezapříčinila nežádoucí chování, jako je například diskriminace. Jsou známy případy, kdy chybné algoritmy v procesu náboru vedly právě k diskriminaci, kdy byly upřednostňovány některé uchazečky či uchazeči, jejichž životopisy měly společné rysy – shrnuje Nadia Winiarska.

Podle výzkumu Polského fóra HR považuje 29 % odborníků v oblasti HR algoritmické chyby a zaujatost AI za největší výzvu spojenou se zaváděním technologií HR Tech. Navíc 19 % respondentů poukazuje na riziko tzv. halucinací umělé inteligence, tedy generování informací, které mohou být nepravdivé nebo zavádějící.

foto: freepik.com
zpracoval /kp/