NVIDIA ograđuje AI agente: Sentry obećava reakciju u milisekundama

NVIDIA je 28. rujna 2026. u objavi iz Santa Clare predstavila NVIDIA Open Agent Safety Platform: dostupni otvoreni softver OpenShell ograničava rad AI agenta, a Sentry na procesoru BlueField-4, prema tvrdnji tvrtke, može staviti agenta u karantenu u milisekundama. Platforma spaja softver koji provodi pravila tijekom izvršavanja s referentnim sustavom za nadzor izvan procesa agenta.

U izvještaju Associated Pressa NVIDIA-in potpredsjednik za poslovnu umjetnu inteligenciju Justin Boitano rekao je: „It can quarantine a suspicious agent in milliseconds”; profesor računarstva Somesh Jha upozorio je da se odnos sigurnosti i korisnosti takvih ograničenja može procijeniti tek na konkretnim slučajevima. Za razvojne timove razlika je neposredna: OpenShell se već može primijeniti, dok je Sentryjev učinak vezan uz opisanu hardversku izvedbu i još traži neovisno mjerenje.

OpenShell određuje što agent može učiniti

OpenShell izvršava agenta u izoliranom okruženju i provodi pravila koja je postavio njegov operater. To je važno kada agent radi s datotekama, vanjskim uslugama i alatima: uputa u razgovoru opisuje poželjno ponašanje, ali dopuštenja izvršnog okruženja odlučuju može li proces doista dosegnuti resurs. Granica tako djeluje i kada agent pogrešno protumači zadatak ili pokuša radnju koja mu nije dodijeljena.

Prema OpenShellovoj dokumentaciji o pravilima, politika određuje koje datoteke proces smije čitati i mijenjati, pod kojim korisničkim identitetom radi te kojim mrežnim odredištima pojedini program smije pristupiti. Mrežno pravilo može razlikovati i vrste zahtjeva, primjerice dopustiti čitanje iz API-ja, a zabraniti upis. Izlazna veza bez dopuštajućeg pravila odbija se, pa pristup jednoj usluzi ne otvara automatski pristup cijeloj mreži.

Pravila za datoteke i proces postavljaju se pri pokretanju izoliranog okruženja, dok se mrežna pravila mogu mijenjati tijekom rada. Povezani pružatelji usluga mogu dodati vlastita mrežna dopuštenja, zbog čega početna konfiguracija ne mora pokazivati sve što agent može dosegnuti. Za stvarni opseg pristupa mjerodavna je efektivna politika, koja objedinjuje osnovna pravila i ta dodatna dopuštenja.

Sentry provodi nadzor izvan procesa agenta

Sentry u referentnoj arhitekturi radi na NVIDIA-inu procesoru za obradu podataka BlueField-4, odvojeno od procesa u kojem agent izvršava zadatak. Iz te pozicije može pratiti aktivnost i provoditi pravila čak i ako se agent ponaša drukčije od očekivanog. NVIDIA za tu konfiguraciju opisuje nadzor zahtjeva i odgovora, provjeru identiteta agenta te ograničavanje pristupa podacima, alatima i uslugama uz pomoć softvera DOCA.

Podjela poslova može se svesti na dva mjesta na kojima se radnja zaustavlja:

• OpenShell, softverska granica: provjerava agentova dopuštenja za datoteke, procese i mrežne veze u njegovu izoliranom okruženju. Pravila određuju resurse potrebne za zadatak.
• Sentry, infrastrukturna granica: u opisanoj izvedbi nadzire aktivnost na BlueField-4 izvan procesa agenta i može provesti pravilo kada agent pokuša prijeći zadanu granicu.

Odvojen nadzor daje zaštitnom mehanizmu položaj koji sam agent ne kontrolira. Njegov rezultat ipak ovisi o pravilima: radnja koja je dopuštena preširokom politikom neće postati zabranjena samo zato što se nadzor provodi u zasebnom hardveru. Tvrdnja o karanteni u milisekundama odnosi se na reakciju opisane arhitekture, a ne na objavljen rezultat neovisnog testa različitih radnih opterećenja.

Što se može koristiti izvan NVIDIA-ine infrastrukture

OpenShell je otvoreni softver i široko je dostupan. NVIDIA navodi mogućnost proširenja na računalne platforme drugih proizvođača, uključujući Arm i Intel. To razvojnim timovima daje put za primjenu softverskih ograničenja bez cijele NVIDIA-ine referentne konfiguracije, ali mogućnost proširenja sama po sebi ne govori koje su izvedbe već spremne za njihov sustav.

Sentry je predstavljen drukčije: kao dio referentnog sustava koji se oslanja na BlueField-4 i DOCA. U najavi nije utvrđena jednaka dostupnost samostalne izvedbe Sentryja za hardver drugih proizvođača. Tim koji postavi samo OpenShell zato dobiva njegova izvršna ograničenja, ali ne može pretpostaviti da je time dobio i isti odvojeni nadzor u infrastrukturi.

U najavljenom ekosustavu sudjeluju i Anthropic, Cisco te Microsoft. Njihovo uključivanje pokazuje interes za povezivanje sigurnosnih slojeva, ali ne znači da svaki sudionik koristi istu kombinaciju softvera i hardvera. Za organizaciju koja uvodi agente odlučujuće je koje komponente može postaviti na vlastitoj infrastrukturi i koja pravila ondje može provoditi.

Što pilot-projekt treba pokazati

Otvoreno pitanje nije samo koliko brzo sustav reagira na zabranjenu radnju, nego može li agent s dovoljno uskim dopuštenjima i dalje obaviti zadatak. Koristan pilot zato mora obuhvatiti stvarne zadatke i granice pristupa koje će organizacija primijeniti:

• Koje datoteke, mrežna odredišta i vrste zahtjeva agent mora koristiti, a što mu efektivna politika dodatno dopušta?
• Može li dovršiti zadatak kada se uklone nepotrebna dopuštenja i kako dobiva novu ovlast kada je ona opravdana?
• Koja radnja pokreće Sentryjevu karantenu, kada se izvršavanje zaustavlja i koji zapis ostaje za naknadnu analizu?
• Koji se dijelovi postave mogu ponoviti na odabranoj infrastrukturi, a za koje je potreban BlueField-4?

Takvi rezultati mogu pokazati i cijenu zaštite: prestroga pravila mogu prekinuti koristan posao, a preširoka propustiti neželjenu radnju. Za procjenu Sentryjeva obećanja osobito će biti važni neovisni, ponovljivi podaci o vremenu od nedopuštenog pokušaja do karantene, zajedno s podacima o zadacima koje agent u istoj konfiguraciji uspješno dovršava.