AI v náboru: lidský dohled nesmí být jen podpis pod skóre

Český zaměstnavatel musí před použitím AI k třídění životopisů nebo hodnocení uchazečů určit, jaké rozhodnutí systém ovlivní, zda je zamýšlené použití přípustné, jaké údaje zpracuje a kdo může výsledek změnit. Podle rozdělení rolí ČTÚ má organizace používající vysoce rizikový systém vlastní povinnosti k jeho provozu a lidskému dohledu. Nákup hotové služby odpovědnost za její použití nepřevádí na dodavatele.

Pravidla pro vysoce rizikové systémy z přílohy III, kam mohou patřit nástroje pro výběr lidí a řízení práce, se podle unijního harmonogramu začnou používat 2. prosince 2027. Už nyní je třeba dodržovat pravidla ochrany osobních údajů, zákaz vybraných praktik a opatření k AI gramotnosti. Připravit skutečný přezkum má smysl při pořizování systému: po automatickém vyřazení uchazeče může být na opravu pozdě.

Veďte inventuru podle činnosti, ne podle názvu produktu

Pro každé použití založte samostatný řádek inventury. Zapište účel, vstupní údaje, výstup, rozhodnutí, které výstup ovlivní, odpovědnou osobu a způsob opravy. Jeden dodavatelský produkt může současně vykonávat činnosti s odlišným dopadem na lidi.

• Třídění životopisů: rozlište vyhledání požadované kvalifikace od pořadí kandidátů nebo automatického vyřazení. Uveďte, zda se k vyřazeným přihláškám člověk vůbec dostane.
• Hodnocení uchazečů: zaznamenejte, zda skóre z odpovědí nebo pohovoru ovlivňuje pozvání do dalšího kola a které podklady umožňují nízké hodnocení přezkoumat.
• Řízení pracovníků: oddělte organizaci směn od přidělování úkolů podle chování či osobních charakteristik a od podkladů pro hodnocení výkonu, povýšení nebo ukončení pracovního vztahu.
• Administrativní pomoc: u úpravy textu inzerátu nebo organizace termínů uveďte, zda nástroj posuzuje konkrétní osoby. Při změně účelu založte nové posouzení.

Právní zařazení se odvíjí od zamýšleného účelu a vlivu systému. Pokud pořadí uchazečů běžně určuje, koho náborář pozve, výstup se podílí na výběru, i když poslední krok formálně provede zaměstnanec. Naopak samotná oprava pravopisu inzerátu uchazeče nehodnotí. U funkce, která má jen připravovat podklady, prověřte i to, zda ve skutečnosti nevytváří profil člověka nebo fakticky neurčuje výsledek.

Prověřte zakázané použití a roli zaměstnavatele

Ještě před nákupem zjistěte, zda některá funkce nespadá mezi zakázané praktiky. AI určená k odvozování emocí lidí v pracovním prostředí je zakázána s úzkou výjimkou pro zdravotní nebo bezpečnostní účely; zákaz se vztahuje i na použití při náboru. Skórování kandidátů samo o sobě takto zakázanou praktikou být nemusí, může však spadat mezi vysoce rizikové systémy.

U hotové služby bývá zaměstnavatel zavádějícím subjektem a dodavatel poskytovatelem. Do inventury proto patří i odpověď na otázku, kdo určuje hodnoticí kritéria, mění model a schvaluje nové použití. Pokud firma podstatně upraví vysoce rizikový systém nebo změní účel jiného systému tak, že vznikne vysoce rizikové použití, musí znovu posoudit svou roli i související povinnosti. Smluvní označení stran samo nerozhoduje o tom, co systém ve firmě dělá.

Ptejte se dodavatele na přezkum a omezte práci s údaji

Dodavatel má vysvětlit určený účel, omezení systému a postup, kterým lze výstup přezkoumat. Před pořízením si nechte ukázat, co se stane s přihláškou, kterou nástroj vyhodnotí jako nevyhovující. Odpovědi zaznamenejte tak, aby je bylo možné porovnat se skutečným nastavením služby:

• Jaké vstupy systém používá, pro jaké použití byl navržen a za jakých podmínek byla ověřena jeho výkonnost?
• Co pověřený člověk u konkrétního hodnocení uvidí? Může skóre odmítnout, změnit pořadí a pozastavit automatické vyřazování?
• Jaké provozní záznamy vznikají, kdo je může získat a jak se zaměstnavatel dozví o změně modelu nebo závažném problému?
• Které osobní údaje dodavatel zpracovává pro zaměstnavatele, komu je zpřístupní a zda je používá také pro další vývoj služby?

Zaměstnavatel musí samostatně určit právní důvod zpracování, nezbytný rozsah údajů, dobu uchování, příjemce a informace poskytované uchazečům či zaměstnancům. Ve výběrovém řízení lze vyžadovat údaje bezprostředně související s uzavřením pracovní smlouvy; údaj nalezený v životopisu se nestává vhodným hodnoticím kritériem jen proto, že jej model dokáže zpracovat. Posuďte také, zda zpracování vyžaduje hodnocení dopadu na ochranu osobních údajů.

GDPR stanoví zvláštní podmínky pro rozhodnutí založená výhradně na automatizovaném zpracování, která mají právní nebo obdobně významný účinek. Jestliže člověk pouze rutinně potvrzuje návrh, aniž má podklady a možnost zasáhnout, nelze jeho podpis považovat za věcný přezkum. Proto je nutné zjistit, co se děje s nízko hodnocenými kandidáty ještě před tím, než z výběru zmizí.

Dejte pověřenému člověku pravomoc a zachyťte důvod rozhodnutí

U vysoce rizikového systému vyžaduje článek 26 AI Act, aby dohled vykonávala osoba s potřebnou způsobilostí, školením, pravomocí a podporou; automaticky vytvářené provozní záznamy pod kontrolou zavádějícího subjektu se mají uchovávat nejméně šest měsíců, pokud použitelné právo nestanoví jinak. Zaměstnavatel má systém používat podle návodu a sledovat jeho provoz. Záznam o důvodu lidského rozhodnutí je užitečný doklad přezkumu, ale není totožný s automatickým provozním záznamem.

Pověřený náborář musí vědět, v jaké fázi smí zastavit vyřazení, vrátit přihlášku do výběru nebo odmítnout vytvořené pořadí. Potřebuje přístup k relevantním podkladům, znalost omezení skóre a dostatek času na vlastní úsudek. Interní postup má určit i osobu, která může používání systému pozastavit při opakované chybě; právo měnit jednotlivé výsledky nesmí existovat pouze v příručce, kterou při náboru nelze uplatnit.

Pro rozhodnutí ovlivněné skóre používejte stručný vzor záznamu: identifikace výběrového řízení a verze systému; výstup AI; podklady, které člověk ověřil; konečné rozhodnutí; věcný důvod přijetí nebo změny návrhu; jméno rozhodující osoby. U podstatné odchylky připojte, zda chyba může ovlivnit i další přihlášky. Do záznamu není třeba znovu kopírovat celý životopis.

Podmíněný příklad: systém zařadí uchazečku nízko, protože nerozpozná doloženou kvalifikaci uvedenou jiným názvem. Náborář podklad ověří, pozve ji k pohovoru a zapíše konkrétní důvod změny. Samotná poznámka „schváleno člověkem“ by neukázala, co prověřil ani zda měl možnost výsledek opravit.

Informujte dotčené lidi a sledujte provoz

Před použitím vysoce rizikového systému na pracovišti má zaměstnavatel informovat zástupce pracovníků a dotčené pracovníky. Pokud takový systém z přílohy III rozhoduje o fyzické osobě nebo rozhodnutí podporuje, má být o jeho použití informována i tato osoba. Tyto povinnosti plánujte vedle informačních povinností, které se na zpracování osobních údajů vztahují podle GDPR již nyní.

Po nasazení sledujte chybná vyřazení, neobvyklé změny pořadí a stížnosti uchazečů či zaměstnanců. Určete, kdo prověří související výsledky, kdo kontaktuje dodavatele a kdo rozhodne o pozastavení používání. Při změně účelu, vstupních údajů nebo modelu znovu projděte inventuru, ochranu údajů a možnost lidského zásahu: původní schválení popisovalo jiný způsob použití.

Přečtěte si také:

• Kalifornie zakázala výpověď jen podle AI, rozhodnutí musí zkontrolovat člověk
• Kamera na pracovišti nesmí běžně hodnotit výkon: záznam přidává povinnosti
• Záloha Docker volume není jen tar: živá databáze může být nekonzistentní