Opsin $21 сая татав: AI агентын зөвшөөрөл бус үйлдлийг хянана

|Зохиогч: QUASA редакцын баг|5 мин уншина| 1
Opsin $21 сая татав: AI агентын зөвшөөрөл бус үйлдлийг хянана

Сан-Хосед төвтэй Opsin 2026 оны 10-р сарын 15-нд SYN Ventures болон Race Capital тэргүүлсэн $21 саяын санхүүжилт татсанаа албан мэдэгдлээр зарлаж, үүсгэн байгуулагч, гүйцэтгэх захирал Жеймс Фам “Knowing what an agent has permission to access isn't enough” гэж хэлэв. Компанийн шийдэхээр зорьж буй асуудал нь AI агентын нэвтрэх эрхийг харахаас гадна тэр эрхээр хийсэн үйлдэл нь өгсөн зорилготой нь нийцэж байгаа эсэхийг тогтоох явдал юм.

Мөн өдрийн Dealroom-ын нийтлэл уг санхүүжилтийг мэдээлэхдээ Opsin-ийн өөрийн шинжилгээг ишилжээ: зорилгоос хазайсан, агенттай холбогдсон хэрэгслүүдийн 93 хувь нь холбогдсон системдээ бүрэн, хязгаарлалтгүй хандах эрхтэй, 200 тутмын нэг нь л үйлдэхээсээ өмнө хүний зөвшөөрөл шаарддаг байжээ. Эдгээр нь компанийн ажигласан орчны үзүүлэлт бөгөөд бүх байгууллагын AI агентын эрсдэлийг илэрхийлэх нийтлэг хувь хэмжээ биш.

Opsin-ийн бүтээгдэхүүний тайлбарт Risk Graph агентын таних мэдээлэл, зорилго, холбогч, хэрэгслийн дуудлага, зөвшөөрлийг нэгтгэж, API холболтын дараа байгууллагын зөвшөөрсөн AI платформ дахь агентуудын анхны эрсдэлийн үнэлгээг 24 цагийн дотор өгнө гэжээ. Бодлогын зааг давсан үед агентыг тусгаарлах, тухайн үйлдлийг хаах эсвэл эзэмшигчид нь мэдэгдэх боломжийг мөн дурдсан. Анхны үнэлгээний хугацаа нь бүх зөрчлийг тэр хугацаанд бүрэн илрүүлнэ гэсэн баталгаа биш.

Агентын эрх яагаад зорилгодоо нийцсэн үйлдлийн баталгаа биш вэ

Байгууллага агентын нэвтрэх эрхийг тогтоохдоо аль систем, өгөгдөл, хэрэгслийг ашиглаж болохыг нь заадаг. Гэвч нэг системд хууль ёсоор нэвтэрсэн агент түүнд өгсөн ажлыг хийхэд шаардлагагүй мэдээлэл уншиж, өөр хэрэглэгчид дамжуулж болно. Эрхийн жагсаалт ийм үйлдлийг зөвшөөрөгдсөн хүрээнд болсон гэж харуулж болох ч яагаад хийснийг нь дангаараа тайлбарлахгүй.

Opsin-ийн бүтээгдэхүүний гол ялгаа нь агент юунд хандаж чадах болон ямар зорилгоор, бодитоор юу хийсэн гэдгийг нэг нөхцөлд үнэлэхэд оршино. Энэ ялгаа бизнесийн эрсдэлд шууд нөлөөлнө: өргөн эрхтэй агент алдаа гаргавал өгөгдөл хэт хуваалцах, байгууллагын тогтоосон ажлын хүрээнээс гарах боломж нэмэгдэнэ. Харин зөвхөн өргөн эрхтэй байна гэдэг нь агент буруу үйлдэл хийсэн гэсэн дүгнэлт биш; бодит үйл ажиллагааны мөр хэрэгтэй.

Нөхцөлт жишээ авбал тайлан нэгтгэх даалгавартай агент өөр хэлтсийн эмзэг мэдээллийг тайланд хамаарахгүй хүнд буцаажээ гэж төсөөлье. Тэр мэдээлэлд хүрэх техникийн эрх агентын ашигласан холбогчид байсан ч буцаасан үр дүн нь даалгаврын зорилго, хүлээн авагчийн үүрэгтэй зөрнө. Энэ нь Opsin илрүүлсэн бодит хэрэг явдал биш; зөвшөөрөл ба зорилгын зөрүү байгууллагын хяналтад хэрхэн харагдахыг тайлбарласан жишээ юм.

Risk Graph-ийн холбодог таван давхарга

Risk Graph-ийн санал болгож буй зураглал агентын таних мэдээллээс эхэлнэ: ямар агент, хэний эзэмшилд, ямар орчинд ажиллаж байгааг мэдэхгүй бол сэжигтэй үйлдлийг хариуцах хүнтэй нь холбох хэцүү. Дараагийн давхарга болох зорилго нь тухайн агент ямар ажил гүйцэтгэхээр бүтээгдсэнийг заана. Энэ хоёр мэдээлэл нийлж байж нэг хэрэгслийн дуудлага тухайн агентын үүрэгт нийцсэн эсэхийг асуух суурь бүрдэнэ.

Холбогч нь агент аль системд хүрснийг, зөвшөөрөл нь тэнд ямар үйлдэл хийх эрхтэйг, хэрэгслийн дуудлага нь яг юу хийснийг харуулна. Эдгээрийг тус тусад нь харвал өргөн эрх, мэдээлэл дамжуулалт, буруу хүлээн авагчийн аль нь асуудал үүсгэснийг ялгахад төвөгтэй. Нэг зураглалд холбовол хамгаалалтын баг зөвшөөрлийн тохиргоог өөрчлөх үү, тодорхой үйлдлийг зогсоох уу, эсвэл агентын эзэмшигчээс даалгаврыг нь тодруулах уу гэдгээ илүү тодорхой шийдэж чадна.

Opsin Microsoft 365 Copilot, Copilot Studio, Claude Enterprise, ChatGPT Enterprise болон Gemini зэрэг байгууллагын зөвшөөрсөн платформын агентуудыг нэг загвараар дүрслэхээр ажиллаж байна. Платформ бүр агентыг өөрөөр ангилдаг учраас тэдгээрийн нэр, эрх, үйлдлийн мөрийг нэг утгаар тайлбарлах нь бүтээгдэхүүний ажиллагааны чухал хэсэг. Энэ нь агентын тоог бүртгэхээс илүү нарийн ажил: зорилгоос хазайсан мэт харагдсан үйлдлийг ямар мэдээлэлд тулгуурлан тэмдэглэснийг тайлбарлах шаардлагатай.

Компанийн шинжилгээ юуг хэмжсэн бэ

Дээрх хоёр харьцааны нэг нь зорилгоос хазайсан, агенттай холбогдсон хэрэгслүүдийн хандалтын хүрээ, нөгөө нь үйлдэхийн өмнөх хүний зөвшөөрлийн шаардлага-ыг илэрхийлнэ. Аль аль нь Opsin-ийн хэрэглэгчдийн орчин дахь өөрийн шинжилгээнээс гарсан. Тэдгээрийг бүтээгдэхүүн аюултай үйлдлийг хэр нарийвчлалтай илрүүлдэг, эсвэл бүх байгууллагад ижил эрсдэл байдаг гэсэн хэмжүүр болгон уншиж болохгүй.

Нийтлэгдсэн мэдээлэлд түүврийн хэмжээ, хэрэглэгчдийг сонгосон арга, «зорилгоос хазайсан» гэж ангилсан нарийвчилсан шалгуур гараагүй. Иймээс Монголын байгууллага эдгээр хувийг өөрийн агентын орчинд шууд шилжүүлэн тооцох үндэсгүй. Харин тоонууд эрхийн тохиргоо болон үйлдлийн өмнөх хяналт гэсэн хоёр өөр асуудлыг зэрэг харах хэрэгтэйг харуулж байна.

Монгол байгууллагын худалдан авалтад шийдвэрлэх асуултууд

AI агент нэвтрүүлж буй байгууллагад бүтээгдэхүүний үнэ цэнийг зарласан үнэлгээний хугацаагаар нь дангаар тогтоох боломжгүй. Агентын зорилго, эрх, бодит үйлдлийн мөр хоорондоо холбогдож байгаа эсэх, зөрүү илэрвэл ямар арга хэмжээ авч болох нь худалдан авах шийдвэрт илүү шууд хамаарна. Үүнийг өөрийн ашигладаг платформ тус бүр дээр дараах байдлаар тодруулж болно:

  • Үйлдлийн мэдээлэл: Агентын эзэмшигч, өгсөн зорилго, ашигласан холбогч, зөвшөөрөл, хэрэгслийн дуудлагаас аль нь системд бодитоор ирэх вэ? Аль нэг нь дутвал эрсдэлийн дүгнэлт юунд тулгуурласныг харах хэрэгтэй.
  • Тусгаарлалт ба хаалт: Бодлогын зөрүү илрэхэд бүтээгдэхүүн мэдэгдэл өгөх, нэг дуудлагыг хаах, агентыг тусгаарлах үйлдлийн алийг нь тухайн платформд хэрэгжүүлж чадах вэ? Буруу дохио гарвал ажлыг сэргээх эрх, дараалал нь тодорхой байх ёстой.
  • Аудитын мөр: Шийдвэр гаргах мөчид харагдсан зорилго, эрх, дуудлага болон авсан арга хэмжээг дараа нь шалгахуйц хадгалах уу? Ингэж байж хамгаалалтын баг дүгнэлтээ тайлбарлаж, агентын эзэмшигч хийсэн өөрчлөлтөө баталж чадна.

Санхүүжилт нь Opsin-д бүтээгдэхүүнээ хөгжүүлэх, зохицуулалт ихтэй салбарын байгууллагуудад хүрэх, багаа өргөжүүлэх боломж олгож байна. Худалдан авагчийн хувьд дараагийн шийдвэрлэх баримт нь өөрийн орчин дахь агентын хэрэгслийн дуудлагыг Risk Graph хэр бүрэн харж, зөрүү илэрсэн тохиолдолд ямар мөр үлдээж, ямар үйлдлийг зогсоож чадах тухай бодит үнэлгээ байх болно.

Мөн уншаарай:

Хуваалцах:

Холбоотой нийтлэлүүд

Мэдээллийн товхимолд бүртгүүлэх

Web3, AI болон криптоны шинэ мэдээг шууд имэйл хайрцагтаа аваарай.

0