Samo 24% vodstava zna tko odgovara za pogrešku AI agenta

Gartner je 6. listopada 2026. na skupu HR Symposium/Xpo u Londonu u priopćenju o prioritetima za 2027. objavio da je, prema srpanjskoj anketi među 297 direktora ljudskih resursa, samo 24% vodstava usklađeno oko toga tko odgovara za AI agente; Gartnerov analitičar Mark Whittle upozorio je: “A more load-bearing workforce heightens performance risks.” Anketa mjeri usklađenost vodstava prema odgovorima direktora ljudskih resursa, a ne broj pogrešaka koje su agenti počinili.

Novosti IT-kanala prenosi i nalaz da 67% anketiranih direktora ljudskih resursa prijavljuje veća očekivanja produktivnosti zaposlenika, dok organizacije ukidaju dio srednjih upravljačkih razina i zapošljavaju manje početnika. Za uprave je zato neposredno pitanje tko smije odobriti radnju agenta, tko prati njezin učinak i tko odlučuje o ispravku kada nastane pogreška. Odgovornost za poslovni ishod mora imati imenovana osoba s ovlasti da postupak zaustavi ili promijeni.

Više rada za ljude koji nadziru agente

Agent može dovršiti zadatak, ali zaposleniku ostaju procjena dvojbenog slučaja, odluka o iznimci i ispravak posljedice. To su poslovi za koje nije dovoljno znati da je sustav tehnički izvršio radnju. Potrebno je znati što je učinio, na temelju kojih podataka i tko može poništiti rezultat ili zaustaviti sljedeću radnju.

Smanjivanje srednjeg menadžmenta mijenja upravo kapacitet za takav nadzor. Ako manje voditelja preuzima više iznimaka, njihova ovlast mora odgovarati novom opterećenju; sama obveza praćenja ne daje im pravo da isprave poslovnu odluku. Manje zapošljavanja na početnim pozicijama otvara i pitanje gdje će budući voditelji steći iskustvo za procjenu slučajeva koje agent ne može pouzdano riješiti.

Granica između tehničke i poslovne odgovornosti pritom je važna. IT može dodijeliti pristup, bilježiti radnje i omogućiti zaustavljanje sustava. Time ne postaje automatski vlasnik odluke o zapošljavanju, usluzi ili drugom ishodu procesa. Vlasnik procesa, s druge strane, ne može odgovarati za ishod ako ne može dobiti trag radnji i pokrenuti ispravak.

Primjer podjele odgovornosti za odluku agenta

Za svaki proces može se imenovati jedan vlasnik poslovnog ishoda, a zatim odrediti tko obavlja nadzor, koga treba konzultirati i koga obavijestiti. Sljedeća je podjela urednički primjer RACI matrice, a ne model koji je Gartner testirao u anketi. U njoj A označava osobu koja konačno odgovara za ishod, R onoga tko izvršava zadatak, C konzultiranu ulogu, a I ulogu koju treba obavijestiti.

• Vlasnik procesa — A: određuje granice samostalnog rada agenta i donosi završnu poslovnu odluku o spornom ishodu. Njegova se odgovornost odnosi na konkretan proces, a ne općenito na sve agente u organizaciji.
• IT — R za tehnički nadzor: postavlja dopuštenja, čuva trag radnji i provodi zaustavljanje sustava kada ovlaštena osoba to zatraži. Kod pogreške osigurava podatke potrebne za utvrđivanje što se dogodilo.
• Odjel ljudskih resursa — C: procjenjuje kako se mijenjaju poslovi, osposobljavanje i opterećenje zaposlenika koji nadziru agente. U procesima koji se tiču zaposlenika sudjeluje i u oblikovanju pravila odobravanja.
• Pravna služba — C: procjenjuje prava uključenih osoba i pravne posljedice planirane radnje ili pogreške. Treba je uključiti prije odluke za koju je takva procjena potrebna, a ne tek nakon što je agent provede.
• Neposredni voditelj — R za operativnu eskalaciju: prepoznaje odstupanje u radu svojeg tima, zaustavlja postupanje unutar dodijeljenih ovlasti i upućuje sporni slučaj vlasniku procesa. O odluci i ispravku obavještavaju se zaposlenici na koje utječu.

Podjela se mora vezati uz radnju koju agent stvarno smije poduzeti. Ako isti sustav pomaže u više procesa, svaki može imati drugog vlasnika ishoda i drukčiju granicu odobravanja. Zapis o radnji zato treba omogućiti da se sporni slučaj brzo poveže s osobom koja ima pravo odlučiti o njemu.

Gdje je potrebno ljudsko odobrenje

Odobrenje je najvažnije prije radnje koja znatno utječe na osobu ili se teško može opozvati. U uvjetnom primjeru agenta koji priprema odluku o kandidatu za posao, agent može sastaviti prijedlog iz dopuštenih podataka, ali ovlaštena osoba odlučuje prije nego što se ishod priopći kandidatu. Vlasnik procesa određuje pravila, neposredni voditelj procjenjuje potrebe radnog mjesta, a ljudski resursi nadziru postupak.

Druga granica nastaje kada su podaci proturječni, nedostatni ili izvan opsega koji je agentu dopušten. Tada se slučaj predaje čovjeku koji ima ovlast zatražiti dodatne podatke, odbiti prijedlog ili zaustaviti ponavljanje iste radnje. Bez unaprijed određene osobe za eskalaciju, zadatak može završiti kod zaposlenika koji je prvi primijetio problem, iako ne može donijeti odluku o ispravku.

Ljudsko odobrenje ima smisla samo ako voditelj može vidjeti relevantan trag rada agenta i ima vremena procijeniti iznimku. Ako se broj ljudi u nadzoru smanji, a količina slučajeva poraste, taj se posao mora uračunati u njihove stvarne uloge. Inače formalno imenovana odgovornost ne osigurava pravodobnu odluku.

Trošak nadzora ulazi u računicu o AI-u

Gartnerov sažetak londonskog skupa navodi da je gotovo 40% poduzeća prekoračilo proračun za AI; u njemu se također navodi da su organizacije koje preoblikuju rad više nego dvostruko sklonije nadmašiti troškovne ciljeve, a one koje dobitke usmjeravaju u inovacije gotovo četiri puta sklonije nadmašiti prihodovne ciljeve. Sažetak ne navodi veličinu uzorka za te usporedbe, pa ih ne treba čitati kao izgledan rezultat za pojedinu tvrtku.

Trošak agenta zato obuhvaća i rad ljudi koji pregledavaju iznimke, utvrđuju pogrešku te odlučuju hoće li se radnja ponoviti ili poništiti. Uprava koja odobrava širenje njegove uporabe treba moći povezati taj rad s vlasnikom procesa i kapacitetom tima. Za zaposlenika pogođenog pogreškom najvažnija je posljedica takve podjele jednostavna: postoji osoba koja može odmah odlučiti što će se ispraviti.

Pročitajte i:

• MongoDB Atlas Agent Engine obećava memoriju agenata — zasad samo u previewu
• Sentry ili Datadog: jeftinije praćenje pogrešaka ne vidi cijelu infrastrukturu
• Kako testirati AI agenta prije produkcije: izlaz nije isto što i ishod