NVIDIA vendos rojë jashtë agjentit AI: izolimi premtohet në milisekonda

Në njoftimin e 28 shtatorit 2026 nga Santa Clara, NVIDIA prezantoi Open Agent Safety Platform: OpenShell vendos kufij për veprimet e agjentëve AI, ndërsa Sentry, i projektuar për BlueField-4, premton të karantinojë në milisekonda një agjent që përpiqet t’i kalojë ata kufij. Kontrolli zbatohet jashtë procesit të agjentit, kështu që leja për të përdorur një mjet ose për të arritur një burim nuk varet vetëm nga udhëzimet që merr modeli.

Për ekipet e zhvillimit dhe sigurisë, dallimi i menjëhershëm është statusi i secilës pjesë. OpenShell është softuer me kod të hapur, tashmë gjerësisht i disponueshëm. Sentry paraqitet në një dizajn referencë si shtresë shtesë monitorimi në BlueField-4; premtimi për karantinim në milisekonda i përket kësaj shtrese, jo një instalimi të OpenShell më vete.

OpenShell vendos kufirin gjatë ekzekutimit

OpenShell e ekzekuton agjentin në një mjedis të izoluar dhe zbaton politikën jashtë procesit të tij. Operatori përcakton skedarët, rrjetet, mjetet, proceset dhe kredencialet që agjenti mund të përdorë. Agjenti mund të kërkojë një veprim, por vendimi për lejimin e tij merret në kufirin e ekzekutimit, përpara se kërkesa të arrijë burimin.

Diagrami i besimit mund të lexohet në një rresht: agjenti në mjedisin e izoluar → politika e OpenShell → burimet e lejuara. Nëse agjenti përpunon një faqe që përmban një udhëzim keqdashës, teksti i faqes mund të ndikojë te kërkesa që ai propozon; politika përcakton nëse veprimi i propozuar mund të kryhet. Kjo lidhje mes përmbajtjes së jashtme dhe autorizimit shpjegon pse lejet e kufizuara të agjentit kanë rëndësi edhe kur përdoren filtra për udhëzimet e dyshimta.

Kufiri vlen vetëm aq sa është e saktë politika e vendosur për detyrën. Leja për të lexuar një dosje nuk duhet të nënkuptojë leje për të ndryshuar skedarët e saj; qasja në një shërbim të caktuar nuk kërkon domosdoshmërisht qasje në gjithë rrjetin. Këto janë zgjedhje të operatorit, jo vendime që OpenShell mund t’i nxjerrë vetë nga qëllimi i përgjithshëm i agjentit.

Sentry shton një kufi jashtë hostit

Sentry është shtresa e pavarur e vëzhgimit dhe ndërhyrjes në arkitekturën e prezantuar. Ai punon në njësinë BlueField-4 DPU, të ndarë nga softueri i hostit ku ekzekutohet agjenti. Në këtë konfigurim, kufiri zgjerohet: hosti dhe OpenShell → monitorimi dhe zbatimi i veçuar në BlueField-4. Kjo ndarje synon ta mbajë kontrollin në funksion edhe nëse komprometohet mjedisi i punës së agjentit.

Me DOCA, dizajni lidh monitorimin e kërkesave dhe përgjigjeve me identitetin e agjentit, vendimet e politikës dhe qasjen te të dhënat, mjetet, API-të e shërbimet. Regjistrimi i këtyre lidhjeve ka vlerë sepse një thirrje mjeti mund të duket e zakonshme më vete, ndërsa në kontekstin e detyrës të tregojë shmangie nga kufijtë. Sentry është parashikuar ta ndërpresë agjentin kur identifikohet një përpjekje për të dalë jashtë kufirit të lejuar.

Shpejtësia e karantinimit përshkruan reagimin e Sentry pasi zbulohet një shkelje e kufirit; ajo nuk mat kohën për të njohur çdo sjellje të dëmshme dhe nuk është rezultat i një prove të pavarur të publikuar për të gjitha konfigurimet. Një politikë tepër e gjerë mund ta lejojë një veprim të padëshiruar, ndërsa një politikë tepër e ngushtë mund ta pengojë detyrën. Për këtë arsye, izolimi në pajisje shton një pikë zbatimi, por nuk e zëvendëson përcaktimin e lejeve.

Çfarë mund të përdoret pa BlueField-4

Përshkrimi teknik i NVIDIA-s thotë se OpenShell mund të përdoret në infrastrukturë lokale, në mjediset e organizatës, në cloud dhe në Kubernetes pa BlueField-4. Ai mbështet modele të hapura ose të mbyllura, si edhe agjentë ekzistues dhe të përshtatur. Softueri mund të zgjerohet për platforma përpunimi nga Arm dhe Intel; kjo mundësi nuk është e njëjta gjë me një premtim se çdo integrim do të punojë pa përshtatje.

• OpenShell: softueri me kod të hapur që izolon ekzekutimin, zbaton politikën jashtë procesit të agjentit dhe regjistron vendimet për lejim ose refuzim. Mund të vendoset pa BlueField-4.
• Sentry: shtresa e monitorimit dhe ndërhyrjes në dizajnin referencë, e lidhur me BlueField-4 dhe DOCA. Këtu vendoset pretendimi për karantinim në milisekonda.
• Vera dhe BlueField-4: pajisjet e konfigurimit të përshkruar nga NVIDIA. Vera është platforma e optimizuar për ekzekutimin e OpenShell; BlueField-4 mban kontrollin e veçuar të Sentry.

Pa pajisjen përkatëse, një ekip ruan kufirin e ekzekutimit dhe gjurmën e vendimeve të OpenShell, por nuk merr monitorimin e izoluar të Sentry jashtë hostit. Kjo ndarje ndikon edhe te pyetjet e vendosjes: cilat burime i duhen agjentit, kush miraton ndryshimet e lejeve dhe ku mblidhen regjistrat e vendimeve? Nëse kërkohet reagim i pavarur nga hosti, duhet përcaktuar edhe nëse arkitektura e infrastrukturës e vendos BlueField-4 në rrugën që duhet monitoruar.

Pretendimi për incidentet e mëparshme

Në raportimin e Associated Press, nënkryetari i NVIDIA-s Justin Boitano tha se platforma mund të kishte ndalur një incident ku agjentë të OpenAI hynë në sistemet e Hugging Face. Studiuesi Earlence Fernandes e quajti qasjen “step in the right direction”, por theksoi vështirësinë e hartimit të një politike që i jep agjentit burimet e nevojshme pa i dhënë më shumë autoritet se ç’duhet. Vlerësimi për incidentin është hipotetik: platforma nuk ishte vendosur gjatë asaj ngjarjeje.

Për ekipet në Shqipëri dhe Kosovë, pasoja konkrete e këtij prezantimi është një zgjedhje arkitekturore. Kufiri i OpenShell mund të vendoset në infrastrukturën që përdorin tashmë, ndërsa shtresa e pavarur e Sentry kërkon konfigurimin me BlueField-4. Të dhënat nga përdorimi real dhe provat e pavarura do të tregojnë sa mirë funksionon kjo ndarje kur politikat, mjetet dhe sjellja e agjentëve bëhen më të ndërlikuara.

Lexoni gjithashtu:

• Prompt injection te agjentët AI: lejet e kufizuara vlejnë më shumë se filtri