Pravila za UI pri delu: seznam orodij ni dovolj

Podjetje naj uporabo umetne inteligence uredi po nalogah: za vsako naj določi dovoljene podatke, odgovorno osebo, način preverjanja izhoda in pot za prijavo napake. Odobritev orodja sama ne pove, ali ga sme zaposleni uporabiti za osnutek oglasa, povzetek življenjepisa ali odločitev, kdo bo povabljen na razgovor.

Pravila morajo biti dovolj konkretna, da lahko zaposleni pred vnosom podatkov in uporabo rezultata prepozna mejo svojih pooblastil. Pri zaposlovanju je ključna razlika med pomočjo pri organizaciji razgovora in izhodom, ki vpliva na oceno kandidata. Spodnja predloga zato razvršča načine uporabe, ne znamk orodij.

Za vsako nalogo določite lastnika in meje uporabe

V evidenci dovoljene uporabe zapišite namen, orodje, vrste vhodnih podatkov, pričakovani izhod, osebo, ki ga preveri, in osebo, ki sprejme končno odločitev. Dovoljenje za pripravo splošnega besedila zaposlitvenega oglasa tako ne zajema samodejno povzemanja prijav v istem orodju. Ob spremembi funkcije orodja ali namena naloge mora lastnik postopka dovoljenje ponovno presoditi.

NIST-ov priročnik za upravljanje tveganj UI priporoča zapisane vloge, odgovornosti in poti obveščanja ter usposabljanje osebja, dokumentiranje in postopke za odziv na težave. Gre za prostovoljni okvir. V podjetju lahko vodja postopka opredeli poslovni namen, kadrovska služba presodi uporabo pri kandidatih in zaposlenih, strokovnjaki za pravo, varstvo podatkov ter informacijsko varnost pa pogoje obdelave; pooblastilo za končno odločitev mora biti izrecno določeno.

Podatke omejite glede na namen naloge

Dostop do podatkov v kadrovskem sistemu še ne pomeni dovoljenja za njihov vnos v storitev UI. Člen 5 Splošne uredbe o varstvu podatkov določa omejitev namena, najmanjši potrebni obseg osebnih podatkov, točnost, ustrezno varnost in odgovornost upravljavca za dokazovanje skladnosti. Pravila naj zato posebej obravnavajo javne informacije, interne poslovne podatke in osebne podatke ter za vsako dovoljeno nalogo navedejo, kaj sme zaposleni vnesti.

Če kadrovnik potrebuje predlog vprašanj za razgovor, lahko kot vhod uporabi opis delovnega mesta brez kandidatove prijave. Če želi povzeti življenjepis, mora biti posebej določeno, ali je taka obdelava dovoljena, kateri podatki so potrebni in pod kakšnimi pogoji jih sme obdelati ponudnik orodja. Odstranitev imena ni zanesljiva anonimizacija, kadar je posameznika mogoče prepoznati iz preostalih podatkov.

Pravila naj povedo tudi, kaj storiti, ko zaposleni ne ve, v katero skupino spada podatek. V takem primeru naj pred vnosom pridobi odločitev pristojne osebe, namesto da o dovoljenosti sklepa iz dostopnosti orodja. To je posebej pomembno pri prijavah, ki lahko poleg podatkov o izobrazbi in izkušnjah vsebujejo tudi informacije, ki jih predvidena naloga sploh ne potrebuje.

Pri zaposlovanju ločite logistiko od ocenjevanja

Primeri AI Act Service Desk za zaposlovanje uvrščajo razvrščanje in ocenjevanje kandidatov, ki pomembno vpliva na izbor, med visoko tvegane uporabe; orodje, ki zgolj usklajuje termine razgovorov in ne vpliva na ocenjevanje, obravnavajo kot ozko postopkovno nalogo. Pomembno je, kaj sistem dejansko počne in kako njegov izhod vpliva na nadaljnji postopek. Formalna možnost, da kadrovnik priporočilo prezre, sama ne odpravi vpliva razvrstitve, če je ta glavni vhod za izbor.

Pri usklajevanju razgovora lahko orodje predlaga termin na podlagi razpoložljivosti kandidata in kadrovnika; oseba, ki postopek vodi, preveri, ali je termin izvedljiv in ali so upoštevane sporočene potrebe kandidata. Če isto orodje začne iz odgovorov ustvarjati ocene ali vrstni red prijav, je to nova naloga. Pred uporabo je treba presoditi njeno pravno kategorijo, dovoljene podatke, človeški nadzor in način popravljanja napačnega rezultata.

Podobna meja velja pri zaposlenih. Jezikovno urejanje ocene, ki jo je vodja že zaključil, ima drugačno vlogo kot sistem, ki sam oblikuje oceno uspešnosti ali predlog za napredovanje. Pravila naj zato opišejo tudi pot izhoda: komu je prikazan, ali se prenese v kadrovsko evidenco in ali lahko vpliva na odločitev o posamezniku.

Predloga s štirimi notranjimi ravnmi

Te ravni so predlog za notranja pravila podjetja in niso pravne kategorije Akta o UI. Posamezno nalogo razvrstite glede na podatke, namen in posledico izhoda. Za vsako raven določite odobritev, obvezno preverjanje in ravnanje ob napaki.

Rutinska uporaba: osnutek splošnega besedila iz javnih ali posebej pripravljenih podatkov, denimo opis nalog v oglasu. Zaposleni pred objavo preveri dejstva, zahteve delovnega mesta in končno besedilo. Kandidatovih podatkov pri tej nalogi ne potrebuje.
Pogojno dovoljena uporaba: delo z internimi informacijami ali priprava sporočila za določeno osebo. Lastnik postopka vnaprej odobri namen, orodje in obseg podatkov; imenovana oseba nato izhod primerja z izvirnimi informacijami. Če naloga vključuje osebne podatke, mora biti urejena tudi dopustnost njihove obdelave.
Uporaba s posebno presojo: povzemanje prijav za izbor, ocenjevanje odgovorov, razvrščanje kandidatov ali podpora odločitvi o napredovanju. Kadrovska, pravna in varnostna funkcija pred začetkom določijo pravno kategorijo, nadzor, zapisovanje odločitev ter možnost pregleda in popravka rezultata.
Prepovedano po notranjih pravilih: vnos osebnih ali zaupnih podatkov v neodobreno storitev, uporaba izhoda zunaj odobrenega namena in samodejna zavrnitev kandidata brez potrjenega postopka. Prepoved opišite kot ravnanje, da ne bo odvisna od trenutnega imena orodja.

Preverjanje, zapis in prijava napak

Preverjanje prilagodite posledici izhoda. Pri osnutku oglasa odgovorna oseba preveri trditve in pogoje dela. Pri povzetku prijave mora podatke primerjati z izvirnikom ter popraviti napačno pripisane ali izpuščene informacije. Če se izhod prenese v kadrovski sistem, mora preverjanje strukturiranega izhoda zajeti tudi pomen polj, povezavo s pravo osebo in popolnost zapisa.

Zapis o uporabi naj omogoča ugotoviti, za kateri namen in s katerim orodjem je bil izhod ustvarjen, kdo ga je preveril, kaj je popravil in kdo je sprejel odločitev. Zapisujte potrebne podatke o postopku, ne novih kopij celotnih prijav. Pri nalogah, ki vplivajo na ljudi, ohranite tudi razlog za odstop od priporočila orodja ali za njegovo sprejetje.

Zaposleni mora vedeti, kam prijavi napačen rezultat, neprimeren vnos podatkov ali sum pristranskosti. Pravila naj določijo, kdo prijavo obravnava, kdo lahko uporabo začasno ustavi in kako se popravljena navodila sporočijo uporabnikom. Ko se spremeni funkcija orodja, vrsta podatkov ali vpliv izhoda na odločitev, naj lastnik postopka ponovno odobri konkretno nalogo.

Preberite tudi: