„Microsoft“ DI agentus prilygino vidinei rizikai ir skyrė jiems prižiūrėtojus

2026 m. spalio 19 d. „Microsoft“ pristatė „Project Perception“ plėtrą ir „Guardian Agents“, kartu išplėsdama aptinkamų vietinių agentų tipų sąrašą iki 60. Nauji prižiūrintys agentai skirti įmonėse veikiančių DI agentų rizikai vertinti ir apsaugos veiksmams koordinuoti. Paskelbta kontrolės schema apima atskirą agento tapatybę, konkrečiai užduočiai suteikiamus leidimus ir galimybę riboti jo veiksmus rizikai pasikeitus.

„Microsoft“ saugumo vadovė Hayete Gallot, cituojama „TechCrunch“, pareiškė: „Unfortunately, frontier models, regardless of their origin, cannot be trusted“. Įmonės saugumo požiūriu agentas primena vidinį naudotoją: jis gauna prieigą prie duomenų ir įrankių, o dalį veiksmų atlieka savarankiškai. Todėl jo įgaliojimus turi nustatyti ir prireikus atšaukti sistema, kurios pats prižiūrimas modelis nevaldo.

Kodėl agentas laikomas vidinės rizikos šaltiniu

DI agentas gali skaityti įmonės informaciją, kviesti kitus įrankius ir keisti įrašus darbuotojo vardu. Rizika kyla iš šių suteiktų galių: klaida, klaidinantis išorinis turinys ar nuo užduoties nukrypęs veiksmų planas gali paveikti sistemas, prie kurių agentas turi prieigą. Vidinės rizikos palyginimas nereiškia, kad agentui priskiriami ketinimai. Jis nusako padėtį, kai organizacijos viduje veikianti programinė sistema pati gali imtis reikšmingų veiksmų.

Net tinkamai pradėjęs užduotį agentas vėliau gali gauti naujos informacijos ir pasirinkti kitą kelią tikslui pasiekti. Pavyzdžiui, jo skaitomame turinyje gali būti nurodymų, kurie nesusiję su darbuotojo pavedimu. Tekstinis paliepimas modeliui elgtis atsargiai tokiu atveju nekeičia jam jau suteiktų techninių teisių. Atskirai veikianti prieigos kontrolė gali neleisti pasiekti ištekliaus arba įvykdyti veiksmo, kad ir kaip agentas aiškintų savo sprendimą.

Tapatybė ir leidimai nustato pradinę ribą

Pirmiausia organizacija turi atskirti agento veiksmus nuo jį paleidusio žmogaus veiksmų. Tam numatyta atskira agento tapatybė, susieta su jo savininku, paskirtimi ir gyvavimo ciklu. „Microsoft Entra Agent ID“ planuojama plėsti ir vietiniams bei anksčiau saugumo priemonėms nežinomiems agentams. „Project Perception“ ir „Microsoft Agent 365“ dalijasi signalais bei bendru registru, kad IT ir saugumo komandos galėtų sieti matomą veiklą su tuo pačiu agentu.

Atskira tapatybė leidžia suteikti agentui savus, užduoties trukme apribotus įgaliojimus. Pagal pristatytą „Dynamic Permissions“ principą jis turėtų pradėti be nuolatinės prieigos ir gauti tik patvirtintam darbui reikalingas teises. Organizacijos politika nustato viršutinę ribą: agentas negali įgyti daugiau teisių, nei turi jį įgaliojęs žmogus. Pasibaigus užduočiai arba jai pasikeitus, šias teises numatoma susiaurinti ar panaikinti.

„Microsoft“ pateikia išlaidų prašymus tvarkančio agento pavyzdį. Jam gali reikėti skaityti prašymus, tikrinti taisykles ir patvirtinti įprastus mokėjimus, tačiau darbuotojo platesnė prieiga neturėtų automatiškai pereiti agentui. Svarbu kontroliuoti ir kelią iki duomenų: kokius įrankius, API ar kitus agentus jis gali pasiekti, kokie duomenys patenka į jo kontekstą ir ar vykdymo aplinka leidžia apeiti nustatytas ribas. Tai skirtingi tos pačios prieigos sprendimo taškai.

Pasikeitusi rizika keičia veiksmų laisvę

Pradiniai leidimai neatsako į klausimą, ką daryti agentui susidūrus su įtartinu turiniu. „Dynamic Agent Risk“ numatytas kaip nuolat atnaujinamas vertinimas, jungiantis tapatybės, duomenų, įrenginių, tinklo, debesijos, vykdymo aplinkos ir paties agento veiklos signalus. Vertinama, kokius išteklius jis gali pasiekti, kokios būtų galimo veiksmo pasekmės ir ar veikla tolsta nuo pavestos užduoties. Taigi ta pati anksčiau pagrįsta teisė gali tapti per plati pasikeitus aplinkybėms.

Į šį signalą turėtų reaguoti agentams pritaikyta „Dynamic Conditional Access“. Pagal aprašytą schemą politika gali palikti teisę skaityti, bet uždrausti įrašymą, susiaurinti pasiekiamus duomenis ar tinklo kelius, sutrumpinti prieigos galiojimą arba pareikalauti patvirtinamo žmogaus sutikimo. Esant didžiausiai rizikai, numatytas vykdymo aplinkos izoliavimas ar agento sustabdymas. Atsakas priklauso nuo rizikos ir konkretaus veiksmo, todėl agento nebūtina išjungti kaskart pasirodžius naujam signalui.

Šios priemonės veikia už modelio sprendimų ribų. Modelis gali nuspręsti, kad jam reikia iškviesti įrankį, tačiau prieigos taisyklė atskirai sprendžia, ar toks iškvietimas leidžiamas. Lygiai taip pat stebėjimo ir vykdymo aplinkos kontrolė turi išlikti veiksminga, jei pats agentas suklysta arba yra paveikiamas nepatikimos informacijos. Rizikos vertinimas tuomet tampa pagrindu keisti realius įgaliojimus, o ne vien perspėjimu agentui.

Ką prižiūrės „Guardian Agents“ ir kas jau prieinama

„Guardian Agents“ skirti nuolatinei priežiūros grandinės daliai: aiškintis, kodėl pasikeitė rizika, tirti susijusius duomenis ir rekomenduoti arba taikyti izoliavimo veiksmus. „Project Perception“ veiksmų scenarijai, vadinami „Playbooks“, apibrėžia siekiamą saugumo rezultatą ir koordinuoja atsaką. Žmonės nustato politiką, patvirtinimo ribas ir delegavimo taisykles; reikšmingi sprendimai lieka jų atsakomybė.

Priežiūrai gali būti naudojami ir gilesni modelio veikimo signalai, padedantys pastebėti, kad planuojami veiksmai tolsta nuo pradinės užduoties. „Microsoft“ šią galimybę aprašo kaip plėtojamą kryptį: didesnis modelio skaidrumas turėtų suteikti daugiau duomenų rizikai vertinti, o leidimo veikti sprendimas vis tiek būtų priimamas ir įgyvendinamas atskirai. Taip atskiriama informacija apie galimą nukrypimą nuo techninės galios jį sustabdyti.

Produkto prieinamumas tebėra ribotas: „Microsoft Learn“ apraše „Project Perception“ nurodytas kaip ribotos viešos peržiūros produktas, prieinamas nedidelei pakviestų klientų grupei. Šis bendras statusas neparodo, kurios spalį pristatytos „Guardian Agents“ galimybės jau įjungtos kiekvienam dalyviui. Įmonėms naujų valdiklių poveikį lems jų faktinis prieinamumas ir tai, kuriose agento veiksmų vietose bus galima įgyvendinti išorines prieigos ribas.

Taip pat skaitykite:

• „Meta“ uždarė 3,64 mln. puslapių dar prieš jiems tampant apgavikais
• „Atlassian AMP“ suveda žmones ir agentus, bet prieigą ribos tapatybė
• Zoom skyrė 2,75 mln. dolerių DI įgūdžiams: mokys ne vien technologų