NVIDIA паставіла вартаўніка над ШІ-агентамі — каранцін займае мілісекунды

28 верасня 2026 года ў Санта-Клары NVIDIA ў анонсе Open Agent Safety Platform прадставіла адкрытае асяроддзе OpenShell і эталонную сістэму Sentry для BlueField-4, заявіла пра каранцін агента за мілісекунды і назвала больш як 100 арганізацый, якія працуюць з тэхналогіямі платформы. OpenShell ужо шырока даступны як праграмнае забеспячэнне. Sentry кампанія апісвае як дадатковы ўзровень незалежнага апаратнага кантролю.

Розніца важная для тых, хто хоча выкарыстоўваць платформу без абсталявання NVIDIA: OpenShell можна пашыраць для працэсарных платформаў Arm і Intel, а апісаны каранцін Sentry залежыць ад BlueField-4. Віцэ-прэзідэнт NVIDIA па карпаратыўным ШІ Джасцін Бойтана ў публікацыі AP патлумачыў: «An agent cannot be expected to fully police its own behavior». Таму правілы доступу павінны дзейнічаць па-за інструкцыямі, якія атрымлівае сама мадэль.

Як OpenShell задае межы дзеянняў агента

OpenShell запускае агента ў ізаляваным асяроддзі і прымяняе да яго палітыку доступу. Паводле тэхнічнага апісання NVIDIA, код распаўсюджваецца пад ліцэнзіяй Apache 2.0, а ізаляцыя працуе на ўзроўні ядра. Аператар вызначае, да якіх файлаў, сетак, інструментаў, працэсаў і ўліковых даных агент можа звяртацца.

Палітыку правяраюць перад запускам агента, пасля чаго яе абмежаванні дзейнічаюць падчас выканання задачы. Калі заданне патрабуе пэўнага каталога і сеткавага сэрвісу, дазвол можна абмежаваць імі, не адкрываючы астатнія рэсурсы. Такі кантроль знаходзіцца ў асяроддзі выканання і не залежыць ад таго, ці карыстаецца агент адкрытай мадэллю або закрытай.

Мяжа застаецца такой, якой яе вызначыў аператар. Занадта шырокі дазвол пашырыць і магчымыя дзеянні агента, таму сама ізаляцыя не вырашае, якія паўнамоцтвы адпавядаюць канкрэтнай задачы. Адначасова правілы даюць спосаб спыніць забароненае дзеянне на ўзроўні выканання, нават калі агент працягвае спрабаваць дасягнуць сваёй мэты.

Чаму Sentry працуе асобна ад агента

Sentry прызначаны для назірання з апаратнага асяроддзя, да якога агент не мае доступу. У эталоннай архітэктуры ён працуе на працэсары апрацоўкі даных BlueField-4 і сочыць за актыўнасцю агента незалежна ад праграмнага асяроддзя, дзе выконваецца задача. Калі агент спрабуе выйсці за ўсталяваныя межы, NVIDIA заяўляе пра магчымасць ізаляваць і спыніць яго за мілісекунды; публічна прыведзеных умоў вымярэння гэтага часу ў анонсе няма.

Праграмная аснова Sentry — NVIDIA DOCA. Яна звязвае апаратны кантроль з палітыкай OpenShell і дазваляе супастаўляць дзеянні агента, рашэнні паводле правіл і звароты да інструментаў ды даных. Так узнікае запіс актыўнасці, патрэбны для выяўлення адхіленняў і рашэння аб умяшанні. Асобнае размяшчэнне кантролю мае значэнне, калі праграмнаму асяроддзю, у якім працуе агент, ужо нельга цалкам давяраць.

У эталоннай канфігурацыі Vera Rubin POD BlueField-4 знаходзіцца на шляху запытаў вузла да мадэлі. Гэта дае апаратнаму ўзроўню пункт назірання і магчымасць перапыніць далейшую працу агента. OpenShell пры гэтым вызначае і выконвае правілы ў асяроддзі агента, а Sentry дадае незалежнае назіранне і ўмяшанне. Менавіта да такой звязкі адносіцца заява пра мілісекундны каранцін.

Што даступна цяпер, а што залежыць ад Vera і BlueField-4

Кампаненты платформы маюць розныя ўмовы выкарыстання. Адкрыты код OpenShell і апаратную схему Sentry можна адрозніць па тым, што патрабуецца для іх працы:

• OpenShell — даступны цяпер. NVIDIA адкрыла праграмнае асяроддзе і звязаныя матэрыялы праз рэсурсы для распрацоўнікаў і GitHub. Яго можна выкарыстоўваць для ізаляцыі агента і выканання палітык доступу без разгортвання поўнай эталоннай сістэмы.
• Arm і Intel — магчымасць пашырэння. Адкрыты OpenShell можна адаптаваць да гэтых платформаў. Такая магчымасць не азначае, што кожная канфігурацыя ўжо мае гатовае разгортванне з тымі ж уласцівасцямі, што і аптымізаваны варыянт NVIDIA.
• Vera — аптымізаваная працэсарная аснова. NVIDIA апісвае працу OpenShell на сваіх працэсарах Vera, але не называе іх абавязковай умовай для выкарыстання адкрытага праграмнага кампанента.
• Sentry — дадатковы кантроль на BlueField-4. Эталонная схема размяшчае незалежнага назіральніка на гэтым працэсары апрацоўкі даных. Аднаго кода OpenShell недастаткова, каб атрымаць апісанае апаратнае ўмяшанне.

Наяўнасць Vera і BlueField-4 таксама не варта блытаць з даступнасцю асобнага праграмнага кампанента. У тэхнічным апісанні NVIDIA гаворыць, што для сістэм, дзе гэтыя працэсары ўжо ёсць, уключэнне абароны зводзіцца да абнаўлення праграмнага забеспячэння. Для распрацоўніка на іншай апаратнай платформе адкрытым шляхам застаецца OpenShell; апісаны Sentry пункт кантролю патрабуе BlueField-4.

Што вызначае карысць каранціну

Каранцін спрацоўвае адносна загадзя зададзенай мяжы. Калі ўмоўна агенту дазволены доступ да аднаго сэрвісу, а ён спрабуе звярнуцца да іншага, сістэма можа распазнаць спробу паводле палітыкі і ўмяшацца. Калі ж аператар дазволіў абодва сэрвісы, гэты зварот не будзе парушэннем правіла, хоць можа аказацца непажаданым для самой задачы.

Маштаб супрацоўніцтва з арганізацыямі паказвае цікавасць да тэхналогій платформы, але не паведамляе, колькі з іх ужо разгарнулі поўную звязку з Sentry. Для карыстальнікаў OpenShell галоўнае непасрэднае наступства анонсу — магчымасць ужываць ізаляцыю і правілы доступу ўжо цяпер. Заяўлены хуткі каранцін застаецца магчымасцю апісанай канфігурацыі з BlueField-4, вынікі працы якой у канкрэтных разгортваннях будуць вызначаць яе практычную каштоўнасць.

Чытайце таксама:

• Падмененая гісторыя чата ператварае ШІ-агента ў нападніка
• Gemini Enterprise лакалізуе даныя — кіраванне агентамі ўсё яшчэ адстае
• NVIDIA ці AMD: хутчэйшы рост яшчэ не азначае таннейшую акцыю