Kalifornie zakázala výpověď jen podle AI, rozhodnutí musí zkontrolovat člověk

Kalifornský guvernér Gavin Newsom 30. září 2026 podepsal zákony, které zakazují zaměstnavatelům rozhodnout o výpovědi jen podle automatizovaného systému. Balík se týká také disciplinárních postihů, sledování zaměstnanců a oznamování hromadného propouštění způsobeného AI. Zákony jsou schválené, jejich jednotlivá ustanovení však nezačínají platit ve stejnou dobu.

Pro personální rozhodování je podstatné, jakou váhu zaměstnavatel výstupu systému přisoudí. Samotné doporučení může být jedním z podkladů. Pokud se o ně při výpovědi nebo postihu opírá převážně, musí rozhodnutí ověřit člověk na základě dalších relevantních informací. Pouhé převzetí automatického skóre tak požadavek lidské kontroly nesplní.

Kdy musí člověk výstup systému ověřit

Schválené znění SB 947 stanoví začátek používání těchto pravidel na 1. července 2027. Zaměstnavatel se při výpovědi ani disciplinárním opatření nesmí spoléhat výhradně na automatizovaný rozhodovací systém. Pokud je jeho výstup hlavním podkladem, musí pověřit člověka, aby závěr ověřil údaji použitými systémem nebo jinými podpůrnými informacemi.

Zákon mezi možné podklady řadí hodnocení nadřízeného, personální spis, výsledky práce, hodnocení kolegů a výpovědi svědků. Lidský přezkum má skutečný následek: jestliže výstup nelze ověřit nebo jej kontrolující člověk vyhodnotí jako nepřesný, neúplný či zavádějící, zaměstnavatel jej při rozhodnutí nesmí použít. Zákon tím odlišuje nezávislé posouzení podkladů od formálního schválení návrhu systému.

Vymezení automatizovaného rozhodovacího systému zahrnuje procesy založené nejen na AI, ale také na statistickém modelování či analýze dat. Rozhodující je, zda vytvářejí například skóre, klasifikaci nebo doporučení, které pomáhá nahradit lidský úsudek a má podstatný dopad na člověka. U HR softwaru proto záleží na použití konkrétní funkce: upozornění na výkon může sloužit k organizaci práce, ale také se stát hlavním důvodem k postihu.

Zaměstnanec se dozví, že rozhodnutí ovlivnil systém

Jestliže zaměstnavatel při výpovědi nebo disciplinárním postihu převážně vycházel z automatizovaného výstupu, musí o tom dotčeného zaměstnance písemně informovat současně s rozhodnutím. Oznámení má být samostatné, srozumitelné a v jazyce běžné komunikace se zaměstnancem. Má uvést, že rozhodnutí člověk přezkoumal a výstup ověřil.

Součástí oznámení je kontakt na člověka, který může poskytnout další informace, a poučení o právu získat popis vlastních údajů použitých systémem. Zaměstnanec může požádat o smysluplný a objektivní popis těchto údajů. Při jeho poskytnutí musí zaměstnavatel chránit osobní informace zákazníků a dalších lidí; zákon tedy nepožaduje zpřístupnění cizích personálních záznamů.

Pro HR systém to vytváří konkrétní požadavek na dohledatelnost podkladů. Zaměstnavatel potřebuje rozpoznat, kdy automatický výstup získal při rozhodování hlavní váhu, jaké informace umožnily jeho ověření a kdo přezkum provedl. Samotná možnost připojit ke skóre jméno schvalující osoby nevysvětluje, zda tato osoba měla k dispozici podklady pro vlastní úsudek.

Další zákony omezují sledování a zpřesňují oznámení o propouštění

Oznámení kalifornské vlády vedle lidského přezkumu uvádí omezení sledování na pracovišti a povinnost sdělit roli AI při hromadném propouštění, přesunu nebo ukončení provozu. Newsom v něm řekl: „AI should expand opportunity – not come at the expense of workers and families.“ Jde o různé povinnosti spojené s konkrétním použitím technologie, nikoli o jednotné pravidlo pro každý personální software.

V oblasti sledování nová ochrana míří na odvozování emočního stavu pracovníka z biometrických údajů pomocí AI. Další omezení se týká používání sledovacích nástrojů v toaletách na pracovišti. U dodavatele systému proto záleží nejen na tom, že nabízí „analytiku zaměstnanců“, ale na druhu sbíraných údajů, závěrech, které z nich vytváří, a místech, kde má být nástroj nasazen.

Při hromadném propouštění se posuzuje jiná otázka než při výpovědi jednotlivci: zda rušení míst, přesun nebo ukončení provozu způsobilo zcela nebo z podstatné části nahrazení práce AI či jinou automatizovanou technologií. Nový požadavek se váže k oznámení o takové změně. Nejde o povinnost označit každé propuštění ve firmě, která používá AI.

Zaměstnavatel proto musí umět spojit rušené pracovní činnosti s technologií, která je přebírá. Pokud současně mění provoz z více důvodů, samotná přítomnost AI ve firmě ještě nevysvětluje příčinu propouštění. Právě rozdíl mezi automatizací práce a jiným důvodem reorganizace určuje, jakou roli má technologie v oznámení dostat.

Co se mění pro české firmy s kalifornskými zaměstnanci

Nová úprava ukládá povinnosti zaměstnavatelům působícím v Kalifornii; sama o sobě nezakazuje zahraničním firmám prodávat HR software. Českého dodavatele však mohou požadavky zasáhnout přes zákazníka, který nástroj používá pro kalifornské pracovníky. Takový zákazník bude potřebovat přístup k údajům nutným pro lidské ověření i možnost doložit, jak automatické doporučení ovlivnilo rozhodnutí.

Pro nákupčího a HR tým jsou relevantní tři rozdílné skupiny funkcí: hodnocení a doporučení vstupující do výpovědi či postihu, sledovací nástroje vyvozující závěry o pracovníkovi a evidence technologie použité při rušení pracovních míst. Produkt může obsahovat všechny, jen některé nebo žádnou z nich. Právní význam se odvíjí od jejich skutečného nasazení, nikoli od marketingového označení celého systému jako AI.

Nejbližším pevným milníkem pro individuální výpovědi a postihy je začátek používání SB 947 v červenci 2027. Do té doby má zaměstnavatel prostor nastavit rozhodování tak, aby člověk dokázal automatický závěr ověřit a v případě chyby jej z rozhodnutí vyřadit. Pro zaměstnance bude podstatné, že při převážném použití takového výstupu dostane o jeho roli písemnou informaci.

Přečtěte si také:

• Tři AI tarify proti sobě: rozhodují limity, ne jen nejlepší model
• NVIDIA staví AI agentům hardwarovou klec, pravidla ale píše člověk
• Backblaze, nebo IDrive: neomezené úložiště platí jen pro jeden počítač