AI pri nábore bude vysoké riziko, personalista musí vedieť vysvetliť verdikt

AI určená na filtrovanie prihlášok, hodnotenie uchádzačov alebo pracovného výkonu spravidla patrí medzi vysokorizikové systémy. Podľa prehľadu Európskej komisie sa pravidlá pre túto skupinu začnú uplatňovať 2. decembra 2027. Rozhoduje účel a skutočná úloha nástroja pri výbere či hodnotení človeka, nie jeho obchodný názov.

Slovenský zamestnávateľ má preto zmapovať použitia AI v HR, od dodávateľa získať návod a podklady o systéme a určiť človeka, ktorý dokáže výstup posúdiť a zmeniť. Pri použití vysokorizikovej AI na pracovisku musí vopred informovať dotknutých pracovníkov a ich zástupcov. Ak je významné individuálne rozhodnutie založené na výstupe systému, personalista musí vedieť opísať úlohu AI aj hlavné dôvody rozhodnutia; zákonné právo na vysvetlenie sa uplatňuje za konkrétnych podmienok.

Ktoré použitia AI patria do inventára

Inventár má sledovať cestu uchádzača alebo zamestnanca cez rozhodnutia, nie iba zoznam zakúpených aplikácií. Zahrňte cielenie pracovných inzerátov, analýzu životopisov, filtrovanie prihlášok, skórovanie odpovedí a zoradenie ľudí pred pohovorom. V pracovnom pomere zaznamenajte systémy, ktoré pomáhajú rozhodovať o povýšení, skončení pracovného vzťahu či podmienkach práce, prideľujú úlohy podľa osobných charakteristík alebo sledujú a hodnotia výkon a správanie.

Pri každom použití zapíšte, kto nástroj dodáva, aký má určený účel, aké údaje prijíma, čo vytvára a ktoré rozhodnutie môže jeho výstup ovplyvniť. Dôležitá je aj rola človeka: ak personalista bežne pozýva na pohovor iba uchádzačov z poradia vytvoreného AI, jeho záverečné kliknutie nemení podstatu predbežného výberu. Rovnakú pozornosť si zaslúži funkcia zapnutá v existujúcej HR platforme aj všeobecný nástroj používaný na hodnotiace súhrny.

Úzko vymedzená administratívna funkcia môže mať iný režim. Potvrdenie prijatia prihlášky alebo usporiadanie údajov zo životopisu bez hodnotenia človeka a bez podstatného vplyvu na výber môže spadať pod výnimku pre prípravné či procesné úlohy. Ak však súhrn vyzdvihuje vhodnosť kandidáta, určuje priority alebo vytvára profil osoby, treba posúdiť jeho skutočný vplyv na rozhodnutie. Výnimku nemožno odvodiť iba z označenia funkcie ako „asistent“.

Za čo zodpovedá dodávateľ a za čo zamestnávateľ

Dodávateľ ako poskytovateľ vysokorizikového systému zodpovedá za jeho súlad s požiadavkami na návrh a uvedenie do prevádzky. Má riešiť riziká a kvalitu údajov, pripraviť technickú dokumentáciu a návod, umožniť zaznamenávanie činnosti a ľudský dohľad a zabezpečiť príslušné posúdenie zhody. Zamestnávateľ by si mal vyžiadať opis určeného účelu, známych obmedzení, spôsobu interpretácie výstupov a opatrení, ktoré musí vykonať sám.

Zamestnávateľ je pri používaní cudzieho systému spravidla jeho používateľom v zmysle nariadenia. Zodpovedá za použitie podľa návodu, vhodnosť vstupných údajov, ktoré ovláda, kompetentný ľudský dohľad, sledovanie prevádzky a informovanie dotknutých osôb. Podľa právneho rozboru CMS zahŕňajú povinnosti používateľa aj uchovávanie automaticky vytvorených záznamov aspoň šesť mesiacov; platí to pre záznamy pod jeho kontrolou, ak uplatniteľné právo neurčuje inak.

Rozdelenie úloh sa môže zmeniť, ak firma uvedie systém pod vlastným menom, podstatne ho upraví alebo zmení účel pôvodne menej rizikového nástroja tak, že sa stane vysokorizikovým. Vtedy môže prevziať povinnosti poskytovateľa. Preto má zmluva a interný inventár presne zachytiť, kto systém vyvíja, kto mení jeho funkciu a kto rozhoduje o jeho použití v nábore.

Čo pripraviť pred použitím v HR

Po klasifikácii má firma preložiť požiadavky do konkrétneho postupu. Nestačí priradiť dohľad niekomu podľa názvu pracovnej pozície: táto osoba potrebuje školenie, čas, prístup k potrebným informáciám a právomoc výstup odmietnuť alebo zmeniť. Postup má určiť aj to, kto rozhodne pri neobvyklom skóre, sťažnosti uchádzača alebo zmene správania nástroja.

1. HR vlastník: Vedie záznam o účele systému, dodávateľovi, použitých funkciách, vstupoch, výstupoch a rozhodnutiach, ktoré systém podporuje. Pri novom použití alebo významnej zmene preverí klasifikáciu.
2. Dodávateľ a nákup: Odovzdajú HR návod, obmedzenia systému, opis dohľadu a informácie potrebné na bezpečné použitie. Ak personalista nedokáže zistiť, čo skóre znamená a kedy môže byť nespoľahlivé, treba túto medzeru vyriešiť pred nasadením.
3. Personalista: Posudzuje výsledok v kontexte pracovných kritérií, môže si vyžiadať doplňujúce podklady a má právomoc rozhodnúť odlišne. Interný záznam má rozlíšiť odporúčanie systému od konečného ľudského rozhodnutia.
4. HR a ochrana údajov: Pripravia informovanie dotknutých pracovníkov a ich zástupcov pred použitím na pracovisku. Ak vysokorizikový systém pomáha rozhodovať o konkrétnej osobe, informáciu o použití AI má dostať aj táto osoba, podľa situácie teda aj uchádzač.
5. Prevádzkový vlastník: Určí, kto sleduje neobvyklé výstupy, uchováva dostupné záznamy a rieši podozrenie na riziko či vážny incident. Ak použitie podľa návodu môže predstavovať zákonom vymedzené riziko, postup zahŕňa oznámenie príslušným stranám a pozastavenie používania.

Pri náborových systémoch sa oplatí sledovať aj rozdiely vo výsledkoch medzi skupinami a zmeny po nasadení. Výskum algoritmického náboru spája kvalitu a férovosť údajov s vysvetliteľnosťou, ľudským dohľadom a priebežným monitorovaním. Je to odborné odporúčanie k prevádzke; samo osebe neurčuje nový univerzálny zoznam dokumentov, ktoré musí každá firma uchovávať.

Ako vysvetliť rozhodnutie konkrétnemu človeku

Personalista potrebuje vedieť oddeliť tri veci: aké pracovné kritériá sa použili, aký výstup vytvorila AI a čo napokon posúdil človek. Pri odmietnutí uchádzača preto nestačí poslať číselné skóre ani všeobecnú vetu, že „rozhodol algoritmus“. Zrozumiteľné vysvetlenie má pomenovať význam výstupu systému v postupe a hlavné dôvody konečného rozhodnutia.

Právo požadovať jasné a zmysluplné vysvetlenie podľa AI Actu sa týka rozhodnutia založeného na výstupe príslušnej vysokorizikovej AI, ktoré má právne účinky alebo človeka podobne významne ovplyvňuje a podľa neho nepriaznivo zasahuje jeho zdravie, bezpečnosť či základné práva. Nariadenie zároveň vymedzuje výnimky a vzťah k právam podľa iných predpisov. Firma by preto nemala sľubovať rovnaký zákonný postup pri každej rutinne zamietnutej prihláške, ale mala by vedieť úlohu AI vysvetliť pri každom rozhodnutí, v ktorom ju skutočne použila.

Už pri nastavení výberu je užitočné určiť, kde zostane stopa o výstupe systému, ľudskom posúdení a konečnom výsledku. Ak tieto časti procesu nie je možné spätne rozlíšiť, personalista bude mať problém podať vecné vysvetlenie aj účinne zasiahnuť pri spornom hodnotení.

Prečítajte si aj:

• BambooHR či Personio: slovenský tím narazí na americké mzdové limity
• Deel či Remote: rozdiel 100 dolárov nemusí rozhodnúť o zahraničnom nábore
• Kameru v práci nestačí označiť: firma musí obhájiť jej nevyhnutnosť