NVIDIA oddelila strážcu od AI agenta: zasiahnuť má za milisekundy

NVIDIA v oznámení z 28. septembra 2026 predstavila Open Agent Safety Platform: otvorený runtime OpenShell je dostupný, kým referenčný návrh Sentry má na DPU BlueField-4 izolovať agenta, ktorý prekročí určenú hranicu, v priebehu milisekúnd. Kontrola je rozdelená medzi prostredie, v ktorom agent vykonáva úlohy, a dohľad mimo jeho procesu aj hostiteľského softvéru.

OpenShell bol oznámený už v marci; ako uvádza TechCrunch, novinkou je jeho spojenie so Sentry a generálny riaditeľ Jensen Huang prístup zhrnul vetou „Safety and security require full-stack engineering.“ Pre firmy s dlhobežiacimi agentmi je dôležité, že pravidlá nemá presadzovať iba samotný agent. Milisekundový zásah je zatiaľ deklarovanou schopnosťou hardvérovej vrstvy, nie výsledkom zverejneného nezávislého merania v prevádzke.

Prečo pokyn agentovi nevynúti bezpečnostnú hranicu

Systémový pokyn určuje, ako sa má model správať, ale sám neodoberie agentovi technický prístup k súboru, službe alebo nástroju. Technický prehľad NVIDIA rozlišuje medzi tým, čo agent podľa pokynov skúsi urobiť, a tým, čo mu runtime skutočne dovolí vykonať. OpenShell uplatňuje pravidlá mimo procesu agenta; Sentry má pridať nezávislú vrstvu aj mimo softvéru hostiteľského počítača.

Rozdiel je podstatný pri úlohách, ktoré sa skladajú z mnohých krokov. Agent môže počas práce čítať odpovede nástrojov, vytvárať ďalšie požiadavky a žiadať o prístup k novým zdrojom. Ak sa bezpečnostná hranica nachádza iba v jeho inštrukciách, o jej dodržaní rozhoduje správanie agenta. Runtime však môže požiadavku na nepovolený úkon zamietnuť bez ohľadu na to, ako ju agent odôvodní.

Takáto hranica má zmysel len vtedy, keď oprávnenia zodpovedajú skutočnej úlohe. Príliš široký prístup ponechá agentovi priestor na nežiaduce kroky, príliš úzky mu znemožní prácu. Oddelenie kontroly preto rieši spôsob vynucovania pravidiel, no nenahrádza rozhodnutie prevádzkovateľa o tom, ktoré dáta a nástroje agent potrebuje.

OpenShell riadi vykonávanie úloh a zaznamenáva rozhodnutia

OpenShell vytvára kontrolované prostredie pre agentov používajúcich otvorené aj uzavreté modely. Politika určuje, čo môžu vykonať, k čomu smú pristupovať a čo môžu zmeniť. Na procesoroch NVIDIA Vera má runtime sledovať kroky agenta a vynucovať pravidlá počas jeho práce. Výkonové tvrdenia o tejto kombinácii sa nevzťahujú automaticky na inú infraštruktúru.

Softvér poskytuje záznamy o povolených a zamietnutých rozhodnutiach a podporuje centrálne zhromažďovanie záznamov z izolovaného prostredia. Agent môže požiadať o úpravu oprávnení; schválenie môže byť ručné alebo automatické v medziach vopred určenej politiky. Prevádzkovateľ tak vidí, kde agent narazil na hranicu, a rozhoduje, či je rozšírenie prístupu opodstatnené.

OpenShell nevyžaduje BlueField-4. Dá sa používať na podporovanej miestnej, firemnej či cloudovej infraštruktúre vrátane prostredí Kubernetes. Ako otvorený softvér ho možno rozšíriť aj na výpočtové platformy tretích strán, medzi ktoré NVIDIA zaraďuje Arm a Intel. Táto prenositeľnosť sa týka runtime; neznamená, že každá z týchto konfigurácií poskytuje hardvérový dohľad Sentry.

Sentry pridáva dohľad na oddelenom DPU

Sentry je v oznámenej platforme referenčný návrh dohľadu, ktorý má bežať na DPU BlueField-4. Sleduje aktivitu agenta z oddelenej hardvérovej oblasti a má vynucovať pravidlá nezávisle od jeho procesu aj hostiteľského softvéru. Ak agent skúsi prekročiť softvérovú hranicu, Sentry ho má izolovať a zastaviť v priebehu milisekúnd. Práve na túto zostavu sa vzťahuje časový prísľub v oznámení.

Na kontrolu využíva softvér NVIDIA DOCA. Opísané funkcie zahŕňajú kontrolu požiadaviek a odpovedí agenta, overovanie jeho identity, zaznamenávanie overiteľnej telemetrie a presadzovanie pravidiel prístupu k dátam, nástrojom, API a službám. Samostatné umiestnenie dohľadu znamená, že agent nerozhoduje o tom, či sa jeho vlastné požiadavky môžu dostať za povolenú hranicu.

Izolácia podozrivého agenta však závisí od toho, či nastavená politika jeho konanie rozpozná ako prekročenie hranice. Zverejnené informácie neobsahujú nezávislé merania času od zistenia porušenia po izoláciu v rôznych prevádzkových konfiguráciách. Pri posudzovaní rýchlosti zásahu preto treba odlišovať deklarovanú schopnosť Sentry na BlueField-4 od nameraného výsledku konkrétneho nasadenia.

Čo je dostupné a čo si vyžaduje ďalšiu infraštruktúru

OpenShell a súvisiaci softvér sú dostupné cez vývojárske zdroje NVIDIA a GitHub. Pri Sentry oznámenie opisuje referenčný návrh pre BlueField-4, nie samostatný balík s rovnakým statusom dostupnosti ako OpenShell. Firma, ktorá nasadí iba runtime, získava softvérové hranice a záznamy o rozhodnutiach. Hardvérovo oddelený dohľad musí posudzovať ako ďalšiu súčasť zostavy s DPU a DOCA.

Pred nasadením dlhobežiaceho agenta z tohto rozdelenia vyplývajú konkrétne otázky:

• Ktoré dáta, nástroje a služby agent potrebuje a kto môže schváliť rozšírenie jeho oprávnení?
• Kde budú dostupné záznamy o povolených a zamietnutých úkonoch a kto ich vyhodnotí po nežiaducom kroku?
• Počíta navrhovaná zostava iba s OpenShellom, alebo aj s BlueField-4, DOCA a dohľadom Sentry?
• Ak zahŕňa Sentry, aký čas izolácie sa nameria v konkrétnej konfigurácii a podľa ktorého pravidla sa agent zastaví?

Odpovede určia, akú kontrolu firma skutočne nasadzuje. Pri samotnom OpenShelli môže vyhodnocovať vynucovanie softvérových pravidiel už teraz; tvrdenie o milisekundovej izolácii bude možné posúdiť pre jej prevádzku až na základe merania celej zostavy so Sentry.

Prečítajte si aj:

• Únik z IDScan zasiahol údaje z dokladov, Kanada začala vyšetrovanie