Gervigreindarfulltrúar fá ekki frjálsar hendur á vinnustöðum

Í samantekt OECD.AI frá 24. september 2026 um viðtöl við 25 stofnanir í 11 löndum kemur fram að enginn þátttakandi lýsti notkun gervigreindarfulltrúa með ótakmörkuðu sjálfræði. Kerfin sinna meðal annars verkefnum í hugbúnaðarþróun, þjónustu og rekstri, en verkefnin eru afmörkuð. Við aðgerðir sem geta haft mikil áhrif eða reynst erfiðar að afturkalla er víða gert ráð fyrir yfirferð eða samþykki starfsmanns.

Vinnuskjalið sem samantektin fjallar um birtist 16. september; umfjöllun Journal du Net rekur hvernig fulltrúar geta sjálfir sinnt skilgreindum verkum en þurfa að vísa afdrifaríkum ákvörðunum til fólks. Það skiptir máli að greina á milli heimildar til að afla upplýsinga, heimildar til að útbúa tillögu og heimildar til að framkvæma breytingu. Viðtölin ná til þróunaraðila, fyrirtækja sem nota kerfin og opinberra aðila; þau gefa dæmi um innleiðingu en eru ekki mæling á því hvernig fyrirtæki almennt nota tæknina.

Frá drögum að sjálfvirkri breytingu

Í vinnuskjali OECD um innleiðingu fulltrúanna er RAN Guardian hjá Deutsche Telekom merkt sem kerfi í notkun. Það fylgist með þráðlausu aðgangsneti, greinir frávik og fyrirhugaða álagstoppa, til dæmis í kringum stóra viðburði. Kerfið getur sjálft endurúthlutað fjarskiptaauðlindum eða breytt netstillingum innan þess verkefnis. Hér hefur fulltrúinn því raunverulega framkvæmdaheimild, en hún er bundin við tiltekinn hluta netrekstrarins.

Hjá japanska fjarskiptafyrirtækinu KDDI er annað samband milli vinnu kerfisins og lokaákvörðunarinnar. Þjónustufulltrúi greinir fyrirspurn viðskiptavinar og fyrri samskipti, sækir upplýsingar sem vantar og semur drög að svari sem starfsfólk fær. Drögin geta stytt undirbúning þjónustusvars, en lýsingin veitir ekki kerfinu sjálfkrafa heimild til að senda það í nafni fyrirtækisins. Aðgangur að þjónustusögu og heimild til að koma fram gagnvart viðskiptavini eru ólíkar ákvarðanir.

Infosys lýsir innri notkun við bókhald: fulltrúar para saman reikninga og greiðslur, stemma af færslur, prófa gögn og afgreiða fyrirfram skilgreind frávik. Veruleg frávik, undanþágur frá reglum, óvissar niðurstöður og fjárhagslega mikilvægar ákvarðanir fara hins vegar til manns til yfirferðar og samþykkis. Kerfið fær þannig að ljúka venjubundnum skrefum, en mörkin ráðast af eðli fráviksins og afleiðingum ákvörðunarinnar.

Fujitsu Kozuchi sýnir enn aðra gerð marka. Í lýsingu á þróunarvettvanginum er gert ráð fyrir að fulltrúar fari yfir skilaboð á leið úr kerfi og hylji persónugreinanlegar upplýsingar áður en þau eru send áfram. Sú vörn snýr að innihaldi úttaksins fremur en því hver samþykkir verkefnið. Dæmin sýna því ólíkar aðferðir: afmarkaða sjálfvirka breytingu á neti, drög til starfsmanns, samþykki við fjárhagslega áhættu og síun upplýsinga fyrir sendingu.

Samþykki kemur við skilgreind mörk

Mannleg yfirferð þarf ekki að fylgja hverju smáskrefi til að setja fulltrúa skorður. Í viðtölunum er lýst stöðvunarpunktum þar sem kerfi má vinna sjálfstætt þar til það hyggst gera aðgerð með meiri áhrifum. Þá getur það þurft skýringu, farið til starfsmanns eða beðið þar til óvissa hefur verið leyst. Greiðslur og eyðing gagna eru nefnd sem dæmi um aðgerðir þar sem samþykki skiptir máli, þótt viðmiðin séu mismunandi milli þátttakenda.

Stöðvunarpunkturinn verður að tengjast tiltekinni aðgerð. Starfsmaður sem samþykkir fyrirhugaða greiðslu þarf að sjá hvað á að greiða og á hvaða forsendum; almennt leyfi til að halda verkefninu áfram segir minna um næstu skref. Einn þátttakandi lýsti því að samþykki fyrir mörgum aðgerðum í einu væri bannað til að draga úr hættu á of víðtækum heimildum. Annars staðar er sjálfvirk aðgerð aðeins framkvæmd ef sérstakt reglubundið öryggiskerfi heimilar hana.

Mörkin ráðast líka af því hvort unnt sé að sannreyna niðurstöðu og leiðrétta mistök. Afstemming sem fellur að fyrirfram skilgreindum reglum getur farið aðra leið en frávik sem krefst mats á undanþágu. Þess vegna er villandi að lýsa öllum gervigreindarfulltrúum sem annaðhvort sjálfstæðum eða ósjálfstæðum. Sami fulltrúi getur leitað gagna án aðkomu starfsmanns, útbúið tillögu til yfirferðar og stöðvast áður en breyting er framkvæmd.

Réttindalíkan fyrir minni fyrirtæki

Fyrir lítið eða meðalstórt fyrirtæki má útfæra þessi mörk sem réttindi sem fylgja aðgerðinni. Þetta er ritstjórnarleg útfærsla, ekki formleg flokkun OECD. Lesaðgangur heimilar fulltrúa að sækja afmörkuð skjöl, tölvupóst eða færslur í viðskiptakerfi. Heimild til að semja drög bætir við vinnslu upplýsinganna, en veitir hvorki rétt til að breyta upprunagögnum né senda niðurstöðuna út.

Framkvæmdaaðgangur þarf þrengri lýsingu en heiti kerfisins eitt gefur. Þar skiptir máli hvaða tengingu fulltrúi má nota, hvaða færslur hann má breyta og hvaða aðgerðir falla utan verkefnisins. Kerfi sem má leiðrétta venjubundið frávik í afstemmingu þarf ekki um leið heimild til að samþykkja óvenjulega greiðslu. Eins er heimild til að lesa tölvupóst önnur en heimild til að senda skilaboð frá fyrirtækinu. Stöðvunarpunktur og samþykki taka við þar sem afleiðingarnar verða meiri.

Þessi aðgreining er sérstaklega mikilvæg þegar einn fulltrúi tengist mörgum kerfum. Heimild sem er eðlileg í hverju kerfi fyrir sig getur leyft víðtækari aðgerðakeðju þegar aðgangurinn er sameinaður. Þátttakendur lýstu því að hefðbundin aðgangsstýring, sem var að mestu hönnuð fyrir fólk, ætti erfitt með að halda utan um kerfi sem starfa samfellt og fara á milli gagnagrunna og verkfæra. Sérstakt auðkenni fyrir fulltrúann og lágmarksheimildir fyrir hvert verkefni gera skýrara hver framkvæmdi hvað.

Skráning sýnir hvar heimild var notuð

Þegar fulltrúi vinnur í nokkrum skrefum dugar ekki að sjá lokaútkomuna eina. Aðgerðaskrá þarf að sýna hvaða gögn voru sótt, hvaða verkfæri voru kölluð til, hvaða breyting var lögð til og hvort starfsmaður samþykkti hana. Atvikaskrá getur síðan tengt frávik við þá aðgerðakeðju sem leiddi til þess. Sú rekjanleikaþörf verður meiri þegar fleiri en einn fulltrúi koma að sama verkefni eða einn þeirra kallar annan til starfa.

Skráning og afturköllun heimilda gegna ólíkum hlutverkum. Skráin hjálpar fyrirtæki að rekja það sem hefur þegar gerst; afturköllun stöðvar frekari aðgang tiltekins fulltrúa ef verkefni breytist eða hegðun hans fer út fyrir mörkin. Fyrir íslenskan vinnustað sem tengir slíkt kerfi við tölvupóst, skjöl og viðskiptakerfi er afleiðingin skýr: þegar heimildir eru víkkaðar þarf að taka nýja ákvörðun um hvaða aðgerðir fulltrúinn má framkvæma og hvar samþykki starfsmanns tekur við.