NVIDIA AI агентыг миллисекундэд тусгаарлах хамгаалалт нээлээ

NVIDIA 2026 оны есдүгээр сарын 28-нд Санта Кларагаас гаргасан албан зарлалдаа Open Agent Safety Platform-ийг танилцуулж, зөвшөөрсөн хилээсээ гарахыг оролдсон AI агентыг Sentry миллисекундэд тусгаарлаж чадна гэж мэдэгдэв. Платформ нь агентын ажиллах эрхийг хязгаарлах OpenShell нээлттэй эхтэй программ болон тусдаа тоног төхөөрөмжөөс ажиглах Sentry жишиг загварыг нэгтгэнэ. OpenShell-ийн программ хангамж нийтэд ашиглах боломжтой болсон бол Sentry-г бүрэн суулгасан системийн хамгаалалт гэж танилцуулаагүй.

Энэ шийдлийн гол санаа нь агент өөрт өгсөн зааврыг хэрхэн ойлгосноос үл хамааран өгөгдөл, хэрэгсэл, үйлчилгээ рүү хандах эрхийг түүний ажиллаж буй процессоос гадна тогтоох явдал юм. NVIDIA-ийн байгууллагын AI хариуцсан дэд ерөнхийлөгч Жастин Бойтано AP-д өгсөн ярилцлагадаа “It can quarantine a suspicious agent in milliseconds” гэж Sentry-ийн тухай хэлсэн. Энэ нь үйлдвэрлэгчийн тайлбар бөгөөд нийтэд нээлттэй, хараат бус орчинд хэмжсэн хугацаа биш.

OpenShell эрхийн хилийг агентын гадна тогтооно

OpenShell агент бүрийг тусгаарлагдсан ажиллах орчинд байрлуулж, ямар файл, сүлжээ, хэрэгсэл, процесс болон нэвтрэх эрх ашиглаж болохыг бодлогоор заана. Бодлогыг даалгавар эхлэхээс өмнө шалгаж, ажил үргэлжлэх үед хэрэгжүүлэхээр бүтээгдсэн. Ийм хяналт нь агентын текстэн зааварт “болохгүй” гэж бичихээс илүү бодитой: агент буруу шийдвэр гаргасан ч хүссэн үйлдэл нь ажиллах орчны зөвшөөрлийн хилээр дамжина.

Тухайлбал, тайлан бэлтгэж буй агент зөвшөөрөгдсөн өгөгдлийн сангаас мэдээлэл унших эрхтэй байж болно. Харин татсан вэб хуудсанд өөр сангийн нууц мэдээллийг авч гадагш илгээх заавар шингэсэн гэж төсөөлье. Агент түүнийг жинхэнэ даалгавар гэж андуурсан ч OpenShell тухайн хандалт, сүлжээний чиглэл болон ашиглах эрхийг тогтоосон бодлоготой тулгана; зөвшөөрөл байхгүй бол үйлдэл таслагдах ёстой. Энэ бол боломжит халдлагын нөхцөлт тайлбар, платформ дээр хийсэн туршилтын үр дүн биш.

Гэхдээ бодлого анхнаасаа хэт өргөн байвал хамгаалалт түүний доторх үйлдлийг зөвшөөрнө. Агент зөвшөөрөлтэй сангаас хэрэгтэй хэмжээнээс илүү мэдээлэл унших боломжтой бол зөвхөн тусгаарласан орчин тухайн хүсэлтийн зорилгыг таньж чадахгүй. Иймээс байгууллагын эрсдэл нь ямар агент ажиллаж байгаагаас гадна ямар өгөгдлийг унших, ямар хэрэгслээр өөрчлөлт хийх, аль үйлчилгээ рүү илгээх эрхийг нь яг яаж бичсэнээс шалтгаална. Энэ асуудал prompt injection-оос хамгаалах үед ч шууд хамаарна.

Vera CPU ба BlueField-4 хоёрын хоорондох ялгаа

NVIDIA-ийн техникийн тайлбарт OpenShell агентын тусгаарлагдсан орчин, бодлогыг Vera CPU талд удирдаж, Sentry нь BlueField-4 DPU дээр үндсэн системээс тусдаа ажиглалт ба бодлого хэрэгжүүлэхээр дүрслэгдсэн. DPU нь өгөгдөл боловсруулах тусгай процессор бөгөөд энэ загварт агент ажиллуулж буй хостын программаас бие даасан хяналтын талбар болдог. NVIDIA Vera Rubin POD-ийн тодорхой зохион байгуулалтад BlueField-4 нь агентын загварт хүрэх зам дээр байрладаг тул сэжигтэй үйлдлийг ажиглахаас гадна тухайн замыг таслах цэг болж чадна.

Энэ зохион байгуулалт нь программын нэг хэсэг эвдэрсэн үед чухал. Агент эсвэл хостын программ OpenShell-ийн шийдвэрийг тойрч гарах гэж оролдвол BlueField-4 дээр ажиллах Sentry тэр программын дотор биш учраас хандалтыг өөрийн бодлогоор дахин хянах зориулалттай. Харин “тусдаа” гэдэг нь бүх боломжит замыг автоматаар хянадаг гэсэн үг биш. Хамгаалалт бодитой үйлчлэхийн тулд хянах ёстой хүсэлт, загварт хүрэх зам, өгөгдлийн хандалт тэр давхаргаар үнэхээр дамжих хэрэгтэй.

Sentry-г ажиллуулахад DOCA программын суурь ашиглагдана. Энэ нь агентын хүсэлт ба хариу, бодлогын шийдвэр, хэрэгсэл болон өгөгдөлд хандсан мөрийг хооронд нь холбох боломж олгохоор тайлбарлагдсан. Мөн агентын таних мэдээлэл, түүнд шилжүүлсэн эрхийг шалгах хяналттай уялдана. Ийм бүртгэл нь хилийг давсан үйлдлийг тухайн агент, тухайн хүсэлттэй нь холбох зорилготой; зөвшөөрлийн бодлого алдаатай бол бүртгэл дангаараа буруу зөвшөөрлийг хориглохгүй.

Нэг халдлагын урсгалд давхар хамгаалалт хэрхэн ажиллах вэ

Дээрх нөхцөлт жишээнд гаднын хуудсын заавар агентын дараагийн үйлдэлд нөлөөлөх үеэс хамгаалалтын давхаргууд өөр өөр ажилтай болно. Доорх дараалал нь зарласан архитектурт тулгуурласан тайлбар бөгөөд тодорхой байгууллагын бодит халдлагын бүртгэл биш.

• Даалгаврын хэвийн хэсэг: Агент Vera CPU дээрх тусгаарлагдсан орчинд зөвшөөрөгдсөн сангаас мэдээлэл уншина. OpenShell тухайн файл, хэрэгсэл, сүлжээний эрхийг бодлоготой нь тулгаж ажиллуулна.
• Хориотой хүсэлт: Гаднын зааврыг дагасан агент өөр сан руу хандах эсвэл мэдээлэл илгээхээр оролдвол OpenShell зөвшөөрлийн хил дээр хүсэлтийг хаах ёстой.
• Программын хил алдагдах үе: Хүсэлт хостын программын хяналтаас мултарсан гэж үзвэл тусдаа DPU дээрх Sentry түүнийг ажиглаж, бодлого зөрчсөн агентыг тусгаарлан зогсоохоор зохион байгуулагдсан.
• Дараах мөр: Хүсэлт, шийдвэр, хандсан хэрэгслийн холбоос хадгалагдвал ямар эрхийг ашиглаж, аль хил дээр хяналт ажилласныг тогтоох боломж бүрдэнэ.

Энд “миллисекундэд” гэдэг нь зөвшөөрлийн бүх алдаа тийм хугацаанд илэрнэ гэсэн хэмжүүр биш. Уг үг нь NVIDIA-ийн мэдээлсэн, хил давж буй агентыг Sentry тусгаарлах хурдыг хэлнэ. Хэт өргөн өгсөн эрхээр хийсэн үйлдэл бодлогод нийцсэн мэт харагдаж болох тул хурдан тусгаарлах механизмын үр нөлөө бодлогын чанар болон ажиглалтын хамрах хүрээнээс салшгүй.

Бэлэн программ ба жишиг загварын зааг

OpenShell-ийн программ хангамж хөгжүүлэгчдийн эх сурвалж, GitHub-ээр ашиглах боломжтой болсон. Программыг Vera CPU дээр ажиллуулахыг онцолсон ч нээлттэй эхийн хувьд Arm, Intel зэрэг бусад тооцооллын орчинд өргөтгөх боломжтой гэж танилцуулсан. Энэ боломж нь гуравдагч талын бүх төхөөрөмж дээр ижил хамгаалалт, ижил гүйцэтгэл хэмжигдсэн гэсэн баталгаа биш. Тухайн системийн тусгаарлалт, бодлого хэрэгжүүлэх цэг, хэрэгслийн холболт тус бүр хамгаалалтын бодит хүрээг өөрчилнө.

Sentry-ийн тухай зарлалд BlueField-4 DPU дээр ажиллах жишиг системийн загварын байр суурь давамгайлж байна. Тиймээс OpenShell татаж суулгах боломжтой байдал, BlueField-4-тэй тусдаа хяналт бүхий иж бүрэн орчны бэлэн байдал хоёрыг адилтгаж болохгүй. Энэ загварт DPU нь агентын хостын хүрээнээс гадна байрладаг; бусад төхөөрөмж дээр яг ямар замаар ижил хяналт хэрэгжих нь суурилуулалтын зохион байгуулалтаас хамаарна.

Миллисекундын тусгаарлалтын талаар нийтэд нээлттэй аргачлал, ачааллын нөхцөл, хараат бус хэмжилтийн дүн хараахан танилцуулагдаагүй. Дараагийн чухал баримт нь Sentry-г бодит орчинд суулгахад ямар хүсэлтүүд түүний хяналтаар дамжиж, бодлого зөрчсөн хүсэлтийг яг хэдий хугацаанд тасалж байгааг харуулсан хэмжилт байх болно.

Мөн уншаарай:

• AI агентыг prompt injection-оос хамгаалах нь: prompt дангаараа хүрэлцэхгүй
• UiPath агентын ажлыг зураглана: зөрүүтэй дүрэм автоматаар батлагдахгүй
• AI агентын түүхийг засахад халдагч болж хувирчээ