68 % společností čelilo incidentům spojeným s únikem citlivých dat při používání AI nástrojů.
AI Act Evropské unie se možná dostává do nové fáze implementace. Evropská komise v rámci balíčku Digital Omnibus navrhuje posunout termín pro platnost nejpřísnějších pravidel týkajících se systémů vysokého rizika ze srpna 2026 na prosinec 2027. Odborníci však zdůrazňují, že dodatečný čas neznamená, že by firmy byly osvobozeny od povinnosti připravit odpovídající postupy a zabezpečení při využívání umělé inteligence, zejména v oblastech zaměstnávání a řízení personálu.
Nové regulace mají klíčový význam pro oddělení HR a společnosti aplikující AI nástroje při náboru, výběru uchazečů, analýze životopisů či hodnocení zaměstnanců. Evropská unie uznala tyto aplikace za systémy s vysokým rizikem, což zahrnuje nutnost splnění specifických požadavků na bezpečnost, transparentnost a dozor nad technologiemi.
AI Act vstoupí v platnost 1. srpna 2024, avšak jeho implementace probíhá postupně. Od února 2025 budou platná pravidla vztahující se na zakázané praktiky a povinnost adekvátní přípravy těch, kteří využívají AI. Další právní ustanovení týkající se systémů vysokého rizika by měla nabýt účinnosti v srpnu tohoto roku. Navrhované posunutí termínu dává firmám dodatečných 16 měsíců na provedení auditů HR technologií a přizpůsobení systémů novým požadavkům. Současně se pracuje na zjednodušeních v digitálním balíčku.
Odbornice na ochranu dat a compliance Zuzanna Spaltenstein-Kotas uvádí, že projekt Digital Omnibus má firmám poskytnout více času na přípravu na nové povinnosti. – Pro podniky to znamená delší čas na přizpůsobení AI systémů, včetně šesti měsíců na implementaci požadavků na transparentnost u generativní AI, a také zjednodušení týkající se dokumentace a řízení kvality. Je však důležité zdůraznit, že některá ustanovení AI Act již platí a podnikatelé jsou povinni je dodržovat, – upozorňuje.
Podle zprávy Metomic z roku 2025 se 68 % firem setkalo s incidenty týkajícími se úniků citlivých dat při práci s AI nástroji. Analýzy citované odborným portálem hcamag.com navíc ukazují, že data týkající se HR se objevila v 82 % zkoumaných úniků dat.
Evropská komise konstatuje, že systémy AI používané při správě zaměstnanců, náboru nebo hodnocení uchazečů mohou být považovány za vysoce rizikové. To se týká například nástrojů určených k cílení na inzeráty pro nábor, filtrování žádostí nebo analýzu uchazečů. Organizace, které tyto systémy používají, musí zajistit transparentnost algoritmů, vysokou kvalitu dat, kybernetickou bezpečnost a možnosti vysvětlení způsobu, jakým jsou činěna doporučení nebo rozhodnutí.
Odborník na kybernetickou bezpečnost Grzegorz Sadziak zdůrazňuje, že oblast HR vyžaduje zvláštní pozornost, protože AI v této oblasti přímo ovlivňuje kariéru zaměstnanců. – HR není marketing, ale specifická oblast, která pracuje převážně s lidskými zdroji. Umělá inteligence v HR neanalyzuje jen procesy nebo výsledky, ale má přímý dopad na lidi – jejich kariéru, příjmy, sebehodnocení a budoucnost. Právě proto musí být požadavky na kybernetickou bezpečnost a ochranu dat mimořádně vysoké, – hodnotí. Doplňuje, že riziko se objevuje už v procesu analýzy žádostí, které mohou obsahovat informace vedoucí k neúmyslnému opakování předsudků nebo diskriminačních vzorců ve fungování modelů AI.
AI Act rovněž posiluje princip lidského dohledu nad systémy umělé inteligence. Firmy, které používají vysoce riziková řešení, budou muset jmenovat osoby zodpovědné za kontrolu činnosti systémů, sledování rizik a reakci na možné nesrovnalosti. Ustanovení také stanovují povinnost informovat zaměstnance o používání těchto technologií na pracovišti a právo na vysvětlení v případě rozhodnutí přijatých s pomocí AI.
Podle Kamila Jankowského, ředitele marketingu a komunikace Gi Group Holding, může AI Act znamenat pro firmy změnu srovnatelnou se zavedením GDPR. – Experimenty s AI bez jasně stanovených pravidel končí. Firmy musí nejen vědět, které AI nástroje jejich zaměstnanci používají, ale také zajistit transparentnost, bezpečnost dat a odpovědnost za procesy. Pro oddělení HR je to obzvlášť významné, protože AI stále častěji podporuje nábor, hodnocení uchazečů a řízení personálu. Získají výhodu nejen v oblasti regulací, ale i v reputaci ty společnosti, které se připraví včas, – uvádí.
Odborníci upozorňují, že umělá inteligence může efektivně podpořit analýzu informací a přípravu doporučení, nicméně konečná rozhodnutí o zaměstnávání by měla zůstat na člověku. Mají za to, že výhodu získají ty organizace, které umějí kombinovat technologie s odpovědným a transparentním způsobem jejich využívání.
foto: magnific.com
redakce /kp/
