Kalifornía bannar gervigreind að reka fólk ein og sér

Gavin Newsom, ríkisstjóri Kaliforníu, undirritaði lögin SB 947 30. september 2026. Frá 1. júlí 2027 mega vinnuveitendur ekki byggja uppsögn eða agaviðurlög eingöngu á niðurstöðu sjálfvirks ákvörðunarkerfis. Kerfið má aðstoða við matið, en þegar niðurstaða þess er aðalgrundvöllur ákvörðunar þarf manneskja að sannreyna hana með gögnum eða öðrum viðeigandi upplýsingum.

Lögin eru hluti af stærri pakka um gervigreind á vinnustöðum. Í frétt Associated Press um undirritunina er haft eftir Newsom: „AI should expand opportunity — not come at the expense of workers and families.“ Í pakkanum eru einnig reglur um skriflega tilkynningu þegar gervigreind veldur hópuppsögn, flutningi starfsemi eða lokun, og takmörk á notkun lífkennaupplýsinga til að álykta um tilfinningalegt ástand starfsfólks. Þær reglur eru aðskildar frá kröfum SB 947 um einstaka ákvörðun um uppsögn eða agaviðurlög.

Þegar niðurstaða kerfisins vegur þyngst

SB 947 nær til sjálfvirkra kerfa sem skila til dæmis einkunn, flokkun eða ráðleggingu sem getur haft veruleg áhrif á fólk. Skilgreiningin tekur til ferla sem byggjast meðal annars á vélanámi, tölfræðilíkönum, gagnagreiningu eða gervigreind. Heiti hugbúnaðarins ræður því ekki eitt hvort reglan eigi við; hlutverk niðurstöðunnar í ákvörðuninni skiptir máli.

Ef vinnuveitandi reiðir sig fyrst og fremst á úttak slíks kerfis við uppsögn eða agaviðurlög verður hann að fela manneskju að sannreyna niðurstöðuna. Lagatextinn nefnir mat yfirmanns, starfsmannaskrá, vinnuframlag, mat samstarfsfólks og viðtöl við vitni sem dæmi um upplýsingar sem geta stutt þá yfirferð. Yfirferðaraðilinn þarf að geta metið hvort gögnin og aðrar upplýsingar beri í raun þá ályktun sem kerfið lagði til.

Munurinn á sannprófun og samþykki sést þegar forsendur standast ekki skoðun. Ef ekki tekst að staðfesta úttak kerfisins, eða manneskjan telur það rangt, ófullkomið eða villandi, má vinnuveitandinn ekki nota það við ákvörðunina. Í skýrt afmörkuðu dæmi gæti frammistöðueinkunn byggst á úreltum upplýsingum um verkefni starfsmanns. Þá dugir ekki að samþykkja einkunnina með því einu að maður hafi séð hana; niðurstaðan verður að standast athugun á viðeigandi gögnum.

Lögin setja jafnframt mörk við aðra notkun kerfanna. Þau banna meðal annars að nota þau til að álykta um verndaða stöðu starfsmanns eða til að spá fyrir um beitingu lögbundinna réttinda hans og grípa til aðgerða gegn honum á þeim grundvelli. Þannig nær regluverkið lengra en til lokaskrefsins þegar uppsögn er tilkynnt.

Starfsmaður fær upplýsingar um þátt kerfisins

Þegar sjálfvirkt kerfi er aðalgrundvöllur uppsagnar eða agaviðurlaga á starfsmaður að fá sérstaka skriflega tilkynningu um það um leið og honum er greint frá ákvörðuninni. Tilkynningin á að vera á skýru máli, á því tungumáli sem notað er í venjulegum samskiptum við starfsfólk. Þar á einnig að koma fram að manneskja hafi farið yfir ákvörðunina og staðfest úttak kerfisins.

Í tilkynningunni þurfa að vera upplýsingar um hvernig starfsmaður nær sambandi við manneskju til að fá frekari skýringar og hvernig hann getur óskað eftir lýsingu á eigin gögnum sem kerfið notaði. Sú lýsing á að vera skiljanleg og hlutlæg, án þess að persónuupplýsingar viðskiptavina, samstarfsfólks eða annarra séu afhjúpaðar. Lögin banna einnig hefndaraðgerðir gegn starfsmanni sem reynir að nýta þessi réttindi.

Upplýsingaskyldan gerir þátt kerfisins sýnilegan eftir að ákvörðun er tekin. Vinnuveitandi þarf því að geta aðgreint tillögu kerfisins frá því sem mannleg yfirferð leiddi í ljós. Sú aðgreining skiptir máli ef starfsmaður vill skilja hvers vegna tiltekin gögn vógu þungt eða telur að þau lýsi aðstæðum hans rangt.

Hvað gildir á íslenskum vinnustað?

Kaliforníulögin breyta ekki sjálf réttindum starfsfólks á Íslandi. Hér gilda íslensku persónuverndarlögin, sem lögfesta almennu persónuverndarreglugerðina. Samkvæmt ákvæðum þeirra á einstaklingur almennt rétt á að ákvörðun sem hefur réttaráhrif eða sambærileg veruleg áhrif á hann sé ekki tekin eingöngu á grundvelli sjálfvirkrar vinnslu persónuupplýsinga. Undantekningar eru afmarkaðar og þeim fylgja verndarráðstafanir.

Reglurnar nálgast mannlega aðkomu á ólíkan hátt. Íslenska reglan beinist að ákvörðun sem er eingöngu sjálfvirk og hefur tiltekin áhrif. SB 947 bannar líka að kerfi ráði eitt, en bætir við skýrri skyldu til sannprófunar þegar úttak þess vegur þyngst við uppsögn eða agaviðurlög. Manneskja sem hefur raunverulegt svigrúm til að kanna gögn, taka við skýringum og hafna niðurstöðu kerfis gegnir öðru hlutverki en sá sem staðfestir hana vélrænt.

Fyrir íslenskan vinnustað er þetta gagnleg aðgreining þegar sjálfvirkt mat er tekið upp í starfsmannamálum. Það þarf að liggja fyrir hvaða persónuupplýsingar eru unnar, hvaða áhrif niðurstaðan getur haft og hver ber ábyrgð á endanlegri ákvörðun. Reglurnar í Kaliforníu gefa skýrt dæmi um hvernig hægt er að gera mannlega yfirferð rekjanlega, án þess að sú útfærsla verði þar með sérstök lagaskylda hér á landi.

Hvar þarf mann að verki?

Ákvörðunarferlið má setja fram sem stuttan verkferil. Hann greinir á milli sjálfvirkrar aðstoðar, mats sem getur ráðið starfslokum og þeirra upplýsinga sem þarf til að sýna hvað manneskjan gerði:

1. Kerfi getur tekið saman gögn, bent á frávik eða lagt til einkunn. Skrá þarf hvaða gögn voru notuð og hvaða niðurstöðu kerfið skilaði, svo hægt sé að rekja forsendurnar.
2. Ef úttakið gæti ráðið uppsögn eða agaviðurlögum þarf ábyrgðaraðili að kanna frumgögn og aðrar viðeigandi upplýsingar áður en ákvörðun er tekin. Hann þarf að geta skráð eigin rök fyrir niðurstöðunni, einnig þegar þau eru önnur en ráðlegging kerfisins.
3. Ef gögnin staðfesta ekki niðurstöðu kerfisins, eða sýna að hún er röng, ófullkomin eða villandi, á úttakið ekki að vera grundvöllur ákvörðunar samkvæmt SB 947. Þá þarf að leiðrétta matið eða byggja ákvörðun á öðrum haldbærum upplýsingum.

Til að sýna fram á sjálfstætt mat þarf meira en skrá yfir að einhver hafi ýtt á samþykktarhnapp. Útgáfa kerfisins, inntaksgögn, úttak, viðbótarupplýsingar sem voru skoðaðar, nafn þess sem fór yfir málið og rök fyrir endanlegri niðurstöðu mynda saman skýrari feril. Þetta er tillaga að rekjanlegri framkvæmd fyrir íslenska vinnustaði, ekki sérstakur varðveislutími sem Kaliforníulögin leggja á þá.

Þegar ákvæði SB 947 taka gildi verður þessi munur á tillögu kerfis og ákvörðun mannsins prófsteinninn í Kaliforníu. Fyrir starfsmann sem stendur frammi fyrir uppsögn skiptir mestu hvort vinnuveitandinn geti útskýrt hvaða staðreyndir voru sannreyndar og hvers vegna þær leiddu til ákvörðunarinnar.

Lestu einnig:

• 48% starfsmanna ýkja gervigreindarkunnáttu sína undir þrýstingi
• Ljósleiðari sér kvikuganginn fyrr — en fyrirvarinn getur verið stuttur
• NIST vill varanlegt auðkenni en skammlífa lykla fyrir gervigreindarfulltrúa