NVIDIA pani AI-agentidele riistvaralise valvekoera — karantiin võtab millisekundeid

NVIDIA avalikustas 28. septembri pressiteates NVIDIA Open Agent Safety Platformi: avatud lähtekoodiga OpenShell on üldkättesaadav, BlueField-4 DPU-l töötav Sentry on riistvaralise etalondisaini osa ning tootja lubab piirist väljuva agendi millisekunditega karantiini panna. Santa Claras avalikustatud lahendus ühendab agendi töö ajal jõustatavad õigusepiirid ja neist eraldi töötava jälgimiskihi. Tarkvara kättesaadavus ei tähenda, et iga OpenShelli paigaldus kasutaks juba Sentryt.

NVIDIA ettevõtete tehisintellekti asepresident Justin Boitano ütles AP-le Sentry kohta: „It can quarantine a suspicious agent in milliseconds.” See kirjeldab lubatud sekkumiskiirust kahtlase tegevuse korral, mitte avaldatud sõltumatu katse tulemust. Lugeja jaoks on oluline ka teine küsimus: milline poliitika määrab, et agendi tegevus üldse piirist väljus?

OpenShell jõustab agendile antud õigusi

OpenShell on isoleeritud käituskeskkond, kus agendile määratud reegleid rakendatakse ülesande täitmise ajal. Piirang paikneb väljaspool mudelit ja agenti juhtivat rakendust. Nii ei jää faili avamise, võrgusihtkohta pöördumise või tööriista kasutamise otsus üksnes mudelile tekstina antud juhise hooleks: käituskeskkond saab toimingut kontrollida talle seatud õiguste järgi.

Oletame, et agent peab lugema kindlat arvekausta. Talle võib anda selleks vajaliku ligipääsu, jättes muude failide muutmise või kõrvalistele veebiaadressidele pöördumise keelatuks. Selline piir vähendab võimalust, et ülesandest kõrvale kaldunud agent teeb volitamata toimingu. See eeldab siiski, et kasutuselevõtja on vajalikud õigused täpselt määranud; liiga lai luba jätab ohtlikule tegevusele ruumi ka siis, kui poliitika töötab ettenähtud viisil.

OpenShell jälgib agendi tegevust ja jõustab reegleid NVIDIA Vera protsessoritel. Avatud lähtekood võimaldab käituskeskkonda laiendada ka Armi ja Inteli arvutusplatvormidele. Laiendamise võimalus ei kirjelda kõigi nende platvormide praegust juurutusseisu. OpenShelli saab seega vaadelda eraldi tarkvaralise kontrollina, mille mõju sõltub nii määratud poliitikast kui ka konkreetsest keskkonnast, kus agent töötab.

Sentry jälgib piiri väljastpoolt agendi käituskeskkonda

Sentry lisab OpenShellile riistvaralise jälgimiskihi. See töötab NVIDIA andmetöötlusprotsessoril ning jälgib agendi tegevust põhisüsteemist eraldi. Eraldatuse mõte on hoida sekkumisvõimalus väljaspool keskkonda, kus agent ise tegutseb. Kui agent üritab oma tarkvaralisest piirist väljuda, peaks Sentry ta peatama ja eraldama.

Sentry etalondisainis kasutatakse DOCA tarkvara agendi päringute ja vastuste vaatlemiseks, identiteedi kontrollimiseks ning juurdepääsureeglite jõustamiseks andmete, tööriistade, rakendusliideste ja teenuste puhul. See annab riistvarakihile laiema rolli kui pelk häiresignaal: kavandatud süsteem peab seostama tegevuse agendi ja talle lubatud toimingutega. Samal ajal jääb poliitika sisu kasutuselevõtja määrata. Riistvara saab jõustada piiri, mille organisatsioon on kehtestanud.

Millisekundites karantiini lubadus puudutab sekkumist pärast seda, kui tegevus on tunnistatud piirist väljuvaks. Avaldatud teave ei kirjelda sõltumatult korratava mõõtmise tingimusi, sealhulgas tuvastuse käivitanud tegevust ja kasutatud konfiguratsiooni. Seetõttu ei saa sellest kiirusväitest üksi järeldada, kui kiiresti peatuks iga võimalik rikkumine ettevõtte enda taristus.

Kättesaadav tarkvara ja partnerite eri rollid

OpenShelli tarkvara ja arendusmaterjalid on avaldatud NVIDIA arenduskanalites ning GitHubis. Sentry on platvormi riistvaralise etalondisaini osa. Organisatsioon saab kasutada platvormi komponente oma vajaduse järgi, kuid eraldi riistvaraline jälgimine eeldab vastavat taristut. Seepärast tuleb tarkvaralise õigusepiiri olemasolu ja Sentry kasutamist käsitleda juurutuses kahe eraldi asjaoluna.

Platvormiga seotud ettevõtted teevad erinevat tööd. Salesforce ja NVIDIA on ühendanud OpenShelli Slackiga, et meeskonnad saaksid vaadata agendi tegevust ja auditikirjeid ning kinnitada või tagasi lükata lisalubade taotlusi. SAP seob OpenShelli Joule Studio käituskeskkonnaga. Need näited näitavad, kuidas õiguste haldus võib jõuda olemasolevasse töövoogu; need ei tähenda, et iga partneri kõigil agentidel oleks kasutusel ühesugune riistvaraline kaitse.

Millise riski vastu piirid aitavad

Platvormi vahetu eesmärk on piirata agendi volitamata tegevust. Keelatud faili muutmine, kõrvalisse teenusesse pöördumine või lubamatule tööriistale ligipääsu küsimine on toimingud, mille puhul selge õiguspoliitika saab sekkuda. Teistsugune on olukord, kus agent kasutab talle lubatud tööriista, kuid teeb ülesandes sisulise vea. Sellise vea võimalus sõltub ülesandest ja sellest, kui avarad õigused agendile anti.

Wisconsini ülikooli arvutiteaduse professor Somesh Jha hoiatas AP selgitavas käsitluses, et piirangud võivad takistada ka kasulikku tööd: „This can only be answered using case studies.” Eesti ettevõtte jaoks tähendab see vajadust hinnata oma tegelikke ülesandeid ja andmeid, mitte ainult turvaplatvormi üldist kirjeldust. Enne agendi tootmiskeskkonda lubamist on määravad järgmised küsimused:

• Millistele failidele, võrgusihtkohtadele, tööriistadele ja teenustele peab agent oma ülesande täitmiseks ligi pääsema? Nende õiguste põhjal saab eristada vajalikku tegevust kõrvalisest tegevusest.
• Kuidas antakse töö käigus lisaluba ning kes selle kinnitab? Erand peab olema jälgitav, sest uus luba muudab piiri, mille järgi agendi käitumist hinnatakse.
• Kas kavandatud paigalduses töötab ainult OpenShell või ka eraldi Sentry jälgimiskiht? Sellest sõltub, millist sekkumist taristult oodata saab.
• Kas kohalik katse näitab nii keelatud toimingu peatamist kui ka lubatud töö jätkumist? Mõlemad tulemused on vajalikud, et hinnata piirangu mõju konkreetses töövoos.

Kui agent saab ettevõttes laiemaid õigusi kui katsetes, muutub ka see, millist käitumist poliitika lubab. Seetõttu kujuneb tootmiskasutuse tegelik kaitsetase ettevõtte õigusevalikutest, paigaldatud komponentidest ja nende toimimisest pärisülesannetes.

Loe ka:

• Cursor või GitHub Copilot: odavam plaan ei tähenda odavamat agenti
• Tehnoloogia juhib taas Balti tehinguid, kuid müük võtab kauem