68% przedsiębiorstw zmagało się z incydentami związanymi z udostępnianiem poufnych informacji systemom AI.
Rozwój unijnego AI Act wchodzi w nową fazę realizacji. Komisja Europejska w ramach inicjatywy Digital Omnibus przewiduje przesunięcie terminu na wprowadzenie najbardziej restrykcyjnych zasad dotyczących systemów o wysokim ryzyku, przesuwając go z sierpnia 2026 roku na grudzień 2027 roku. Eksperci zaznaczają jednak, że dodatkowy czas nie zwalnia firm z konieczności implementacji odpowiednich procedur oraz zabezpieczeń związanych z używaniem sztucznej inteligencji, zwłaszcza w kontekście zatrudnienia i zarządzania pracownikami.
Nowe przepisy mają kluczowe znaczenie dla działów HR oraz firm używających narzędzi AI przy rekrutacji, selekcji kandydatów, analizie życiorysów czy ocenie pracowników. Unia Europejska zakwalifikowała te zastosowania jako systemy wysokiego ryzyka, co obliguje do spełnienia szczególnych standardów dotyczących bezpieczeństwa, transparentności oraz nadzoru nad działaniem tych technologii.
AI Act wejdzie w życie 1 sierpnia 2024 roku, aczkolwiek jego zasady będą wprowadzane stopniowo. Od lutego 2025 roku będą obowiązywać regulacje dotyczące zakazanych praktyk oraz wymogu przygotowania osób korzystających z AI. Następne przepisy, dotyczące systemów wysokiego ryzyka, mają zostać wprowadzone w sierpniu tego roku. Przesunięcie terminu daje firmom dodatkowe 16 miesięcy na przeprowadzenie audytów narzędzi HR Tech oraz na dostosowanie systemów do nowych wymogów. Równocześnie trwają prace nad uproszczeniem pakietu cyfrowego.
Zuzanna Spaltenstein-Kotas, specjalistka ds. ochrony danych oraz compliance, wyjaśnia, że projekt Digital Omnibus ma na celu wsparcie firm w lepszym przystosowaniu się do nowych wymogów. – Oznacza to dla przedsiębiorstw zyskanie więcej czasu na dostosowanie systemów AI, w tym sześciu miesięcy na wdrożenie obowiązków związanych z transparentnością w zakresie generatywnej AI, a także uproszczeń dotyczących dokumentacji oraz zarządzania jakością. Niemniej jednak część przepisów AI Act już obowiązuje, więc przedsiębiorcy muszą je stosować – podkreśla.
Zgodnie z raportem Metomic z 2025 roku, 68% firm zetknęło się z incydentami powiązanymi z ujawnianiem wrażliwych danych za pomocą narzędzi AI. Dodatkowo analizy wskazane przez portal branżowy hcamag.com ujawniają, że dane HR były obecne w 82% badanych przypadków wycieków informacji.
Komisja Europejska podkreśla, że systemy AI stosowane w obszarach HR, takich jak zarządzanie pracownikami, rekrutacja oraz ocena kandydatów, mogą być klasyfikowane jako rozwiązania wysokiego ryzyka. Dotyczy to m.in. narzędzi do celowania w ogłoszenia rekrutacyjne, filtracji aplikacji oraz analizy kandydatów. Organizacje wykorzystujące takie systemy będą zobowiązane do zapewnienia transparentności działających algorytmów, zachowania odpowiedniej jakości danych, zapewnienia cyberbezpieczeństwa oraz możliwości wyjaśnienia metod podejmowania rekomendacji bądź decyzji.
Grzegorz Sadziak, ekspert w dziedzinie cyberbezpieczeństwa, podkreśla, że obszar HR wymaga szczególnej ostrożności, ponieważ AI w tym sektorze ma bezpośredni wpływ na karierę pracowników. – HR to nie marketing, lecz specyficzny obszar działania każdej firmy, działający głównie w kontekście ludzkim. Sztuczna inteligencja w HR nie tylko analizuje procesy czy wyniki, ale ma bezpośredni wpływ na ludzi – ich karierę, zarobki, poczucie wartości oraz życie osobiste. Dlatego wymagania dotyczące cyberbezpieczeństwa i ochrony danych powinny być na najwyższym poziomie – ocenia. Zaznacza, że ryzyko pojawia się już na etapie analizy dokumentów aplikacyjnych, które mogą zawierać dane prowadzące do nieświadomego kopiowania uprzedzeń lub dyskryminujących wzorców działania modeli AI.
AI Act wzmacnia również zasadę nadzoru ludzkiego nad systemami sztucznej inteligencji. Przemysły stosujące technologię wysokiego ryzyka będą zobowiązane do wyznaczenia osób odpowiedzialnych za monitorowanie działania systemów, identyfikowanie ryzyk oraz reagowanie na potencjalne nieprawidłowości. Przepisy przewidują także obowiazek informowania pracowników o użytkowaniu tych technologii w środowisku pracy oraz prawo do uzyskania wyjaśnień w przypadkach, w których decyzje są podejmowane przy udziale AI.
Kamil Jankowski, dyrektor marketingu oraz komunikacji w Gi Group Holding, wskazuje, że AI Act może stanowić dla firm transformację porównywalną do wprowadzenia RODO. – Kończy się czas eksperymentów z AI bez klarownych zasad. Firmy będą musiały nie tylko znać narzędzia sztucznej inteligencji, z których korzystają ich pracownicy, ale także zapewnić transparentność, bezpieczeństwo danych oraz odpowiedzialność procesów. Dla działów HR jest to szczególnie ważne, gdyż AI coraz częściej wspomaga rekrutację, ocenę kandydatów oraz zarządzanie personelem. Przedsiębiorstwa, które odpowiednio wcześniej się przygotują, zyskają przewagę nie tylko pod kątem regulacyjnym, ale także reputacyjnym – podsumowuje.
Eksperci podkreślają, że sztuczna inteligencja może skutecznie wspierać analizę danych oraz tworzenie rekomendacji, jednak ostateczne decyzje dotyczące zatrudnienia powinny należeć do ludzi. Ich zdaniem przewagę zdobędą te organizacje, które umieją połączyć możliwości technologii z odpowiedzialnym i przejrzystym sposobem jej wykorzystania.
fot. magnific.com
oprac. /kp/
