Nové předpisy mimo jiné ukládají povinnost jasně sdělit lidem, že daný materiál vznikl nebo byl upraven pomocí systému umělé inteligence.
Od 2. srpna se začala uplatňovat další část pravidel z unijního nařízení AI Act, které upravuje používání umělé inteligence. Přestože úplné splnění všech povinností pro systémy s vysokým rizikem je naplánováno až na 2. prosince 2027, už nynější změny výrazně ovlivňují fungování firem i veřejných institucí, které s AI pracují.
AI Act je v platnosti od srpna 2024, ale jednotlivé závazky nabíhají postupně. K 2. srpnu přibyly například požadavky na transparentnost systémů umělé inteligence, povinnost zajistit uživatelům odpovídající znalosti pro práci s těmito nástroji, pravidla pro modely AI obecného určení i normy spojené s dohledem nad uplatňováním celého nařízení.
Jednou z nejdůležitějších novinek je jasné označování obsahu vytvořeného nebo upraveného umělou inteligencí. Týká se to hlavně obrázků, videí a zvukových záznamů vznikajících s využitím AI, včetně takzvaných deepfakeů. Předpisy takové materiály nezakazují zveřejňovat, ale ukládají povinnost upozornit publikum, že obsah vytvořil či změnil systém umělé inteligence. Podle pokynů Evropské komise leží odpovědnost za označení na těch subjektech, které používání AI systému řídí, tedy například na firmách, úřadech nebo agenturách.
V České republice je základem pro zavádění nových pravidel zákon o systémech umělé inteligence, který byl podepsán 24. července 2026. Ten stanovuje, jak se má AI Act promítnout do národního práva, a zároveň zřizuje orgány, jež budou dohlížet na dodržování předpisů. Ministr pro digitalizaci Krzysztof Gawkowski uvedl, že nová opatření mají zároveň podpořit technologický rozvoj a zvýšit bezpečnost uživatelů.
Nový zákon počítá se vznikem Komise pro rozvoj a bezpečnost umělé inteligence, která bude moci přijímat podněty a stížnosti týkající se fungování AI systémů. Půjde například o případy, kdy algoritmus rozhodne chybně nebo diskriminačně, případně když nástroj nebude odpovídat svým deklarovaným možnostem. Pokud by šlo o systém ohrožující život nebo zdraví, komise bude moci nařídit jeho stažení z trhu. Podnikatelé navíc budou moci žádat o individuální stanoviska k tomu, zda plánované řešení odpovídá právním požadavkům.
Zvlášť důležité dopady mají nové předpisy pro personální oddělení a náborové agentury. Evropská komise upozorňuje, že systémy AI využívané k řízení zaměstnanců, výběru uchazečů nebo vyhodnocování přihlášek mohou spadat do kategorie vysoce rizikových systémů. To znamená nutnost splnit požadavky na transparentnost, lidský dohled, kvalitu dat, kybernetickou bezpečnost i možnost vysvětlit, jak algoritmus pracuje.
Odborníci zdůrazňují, že oblast HR vyžaduje mimořádnou opatrnost. „HR není marketing, ale velmi specifická část fungování každé firmy, která pracuje především s lidským materiálem. Umělá inteligence v HR nevyhodnocuje jen procesy nebo výsledky, ale přímo zasahuje do života lidí – do jejich kariéry, příjmů, sebevědomí i budoucnosti. Právě proto musí být požadavky na kybernetickou bezpečnost a ochranu dat v této oblasti mimořádně přísné,“ vysvětluje Grzegorz Sadziak, Cloud Solution Architect a odborník na kyberbezpečnost ze společnosti Supremo.
Pravidla zároveň posilují zásadu lidského dohledu nad činností umělé inteligence. Firma, která používá vysoce rizikový systém, musí určit osoby odpovědné za sledování jeho provozu, posuzování rizik a zásah v případě zjištění problémů.
Význam nových pravidel potvrzují i data o bezpečnosti informací. Podle zprávy Metomic z roku 2025 zaznamenalo 68 % firem incidenty spojené s tím, že zaměstnanci sdíleli citlivá data s nástroji AI. Analýzy citované oborovými médii navíc ukazují, že údaje z oblasti HR se objevují ve значné části odhalených úniků informací, což zvyšuje riziko jejich zneužití při útocích podporovaných umělou inteligencí.
Lidé z branže tvrdí, že AI Act může být pro podniky milníkem srovnatelným se zavedením GDPR. „Končí období experimentování s AI bez jasných pravidel. Pro HR oddělení je to obzvlášť zásadní, protože umělá inteligence stále častěji pomáhá s náborem, hodnocením kandidátů i řízením zaměstnanců. Firmy, které se začnou připravovat včas, získají nejen regulační, ale i reputační výhodu,“ říká Kamil Jankowski, ředitel marketingu a komunikace společnosti Gi Group Holding.
Za porušení pravidel AI Act hrozí velmi vysoké pokuty. Při nesplnění požadavků na transparentnost mohou poskytovatelé AI systémů dostat sankci až do výše 15 milionů eur nebo do 3 % celosvětového ročního obratu společnosti, podle toho, která částka je vyšší.
foto: magnific.com
zprac. /kp/
