FTC OpenAI, Anthropic-ийг шалгаж эхлэв: агентын аюул хэрэглэгчийн хэрэг болов

АНУ-ын Холбооны худалдааны комисс (FTC) OpenAI, Anthropic болон бусад AI компанийн бүтээгдэхүүн хэрэглэгчдэд учруулж болзошгүй эрсдэлийг шалгаж буйгаа CBS News-д өгсөн мэдээллээр 2026 оны есдүгээр сарын 30-нд баталлаа. FTC-ийн төлөөлөгчийн хэлснээр шалгалт зун эхэлсэн бөгөөд компаниудын үйл ажиллагаа FTC Act-ийг зөрчсөн эсэхийг хамарна. Байгууллага компаниудаас, мөн AI-ийн аюулгүй байдлыг үнэлдэг METR судалгааны байгууллагаас мэдээлэл авахаар төлөвлөжээ.

Semafor-ын мэдээлснээр FTC ойрын хэдэн долоо хоногт иргэний мөрдөн шалгах шаардлага илгээхээр зэхэж байна. Тус хэвлэл шалгалт OpenAI-ийн туршилтын загвар Hugging Face-ийн системд халдсан тохиолдлоос өмнө эхэлснийг мөн мэдээлжээ. Иймээс агентын аюултай үйлдлийн талаарх сүүлийн мэдээнүүд шалгалтыг улам анхаарлын төвд оруулсан ч түүнийг эхлүүлсэн ганц шалтгаан гэж үзэх үндэсгүй.

Шалгалтад хэн, ямар эрсдэл хамрагдав

Нийтэд батлагдсан хүрээ нь OpenAI, Anthropic болон нэрийг нь зарлаагүй бусад AI компанийн бүтээгдэхүүний хэрэглэгчид учруулж болзошгүй эрсдэл юм. METR-ээс мэдээлэл авах төлөвлөгөө нь тус байгууллагын аюулгүй байдлын үнэлгээ шалгалтад хамаатайг харуулна. Компани тус бүрийн аль бүтээгдэхүүн, ямар үйлдлийг FTC голлон авч үзэж байгаа тухай нарийвчилсан хүрээ нийтэд тодорхой болоогүй байна.

Энэ бол агентын техникийн доголдлыг хэрэглэгч хамгаалах асуудалтай холбож буй шалгалт. AI агент нь өгсөн даалгаврын хүрээнд дараалсан үйлдэл хийж, гаднын хэрэгсэл эсвэл системтэй харилцаж чаддаг тул заавраас хазайсан үйлдэл нь чатботын буруу хариултаас өөр үр дагавартай байж болно. Гэхдээ нэг туршилтын тохиолдлын үр дүнг нэрлэгдсэн компаниудын бүх бүтээгдэхүүн, бүх хэрэглээний орчинд хамааруулж болохгүй.

Хэрэглэгч хамгаалах талаас авч үзвэл бүтээгдэхүүний бодит ажиллагаанаас гадна түүний боломж, хязгаар, аюулгүй байдлын талаар хэрэглэгчид юу хэлснийг асуух шаардлага гарна. Жишээлбэл, нийлүүлэгч агентын гаднын системд хандах эрхийг хязгаарладаг гэж мэдэгдсэн бол тэр амлалт ямар орчин, ямар нөхцөлд үйлчлэх нь чухал. Энэ нь шалгалтаар аль нэг компанийн тодорхой мэдэгдэл худал байсныг тогтоосон гэсэн үг биш; FTC-ийн авч үзэж болох хэрэглэгчийн асуудлыг тайлбарлаж буй хэрэг юм.

Баримт, мэдүүлэг шаардах ажиллагаа ямар шатанд байна вэ

Иргэний мөрдөн шалгах шаардлага буюу CID нь FTC мэдээллийг албадан авахад ашигладаг хэрэгсэл. FTC-ийн албан тайлбарт AI-тай холбоотой шалгалтад ийм шаардлагаар баримт бичиг, мэдээлэл болон мэдүүлэг авч болдгийг тодорхойлсон. Комисс шаардлага гаргах эсэх эрх мэдлээ өөртөө хадгалдаг тул бэлтгэж байгаа тухай мэдээлэл нь шаардлага аль хэдийн хүргэгдсэн гэсэн утгатай биш.

Энэ ялгаа шалгалтын явцыг ойлгоход чухал. Албан шаардлага илгээвэл компаниудын аюулгүй байдлын үнэлгээ, бүтээгдэхүүний ажиллагааны талаарх тайлбар болон удирдлагын мэдүүлгийг авах боломж бүрдэнэ. Тэр мэдээллийг цуглуулж, үнэлэх ажиллагаа нь шүүхийн шийдвэр эсвэл зөрчил тогтоосон захиргааны дүгнэлтээс тусдаа шат юм.

METR-ийн оролцоог мөн адил нарийн ялгах хэрэгтэй. Судалгааны байгууллагаас мэдээлэл хүсэх нь түүнийг AI бүтээгдэхүүн борлуулдаг компаниудтай ижил үйлдэл хийсэн, эсвэл хууль зөрчсөн гэж үзсэн гэсэн үг биш. Тус байгууллагын үнэлгээ шалгалтад ямар үүрэгтэй болох, түүнээс яг ямар материал шаардах нь албан шаардлагын хүрээ тодорхой болсны дараа илүү тодорхой болно.

Агентын аюул хэрэглэгчийн асуудалд яаж хүрэв

Техникийн эрсдэл хэрэглэгчийн асуудал болох зааг нь бүтээгдэхүүнийг хэрхэн санал болгосон, аюулгүй байдлын талаар ямар амлалт өгсөн, бодит ажиллагаа тэр мэдээлэлтэй хэр нийцсэнд оршино. Гаднын системд хандах чадвартай агентын тухайд хэрэглэгч зөвшөөрлийн хүрээ, хяналт болон алдаа гарсан үеийн мэдээлэлд тулгуурлан үйлчилгээ ашиглах эсэхээ шийддэг. Эдгээр тайлбар тодорхой бус байвал эрсдэлийг хэрэглэгч өөрөө үнэлэх боломж хумигдана.

FTC Act-ийн хүрээнд эрсдэлийг авч үзэж байгаа нь агентын бүх алдаа автоматаар хууль зөрчихийг илэрхийлэхгүй. Шалгалтаар ямар компанийн ямар үйлдэл, мэдэгдэл хуульд хамаарахыг баримтаар тогтоох шаардлагатай. Одоогийн батлагдсан статус нь шалгалт явагдаж байгаа болон мэдээлэл шаардах алхам бэлтгэгдэж байгаа явдал; торгууль, хариуцлагын шийдвэр гарсан тухай мэдээлэл биш.

Монголын хэрэглэгч, худалдан авагчид юу хамаарах вэ

FTC-ийн ажиллагаа АНУ-ын хэрэглэгч хамгаалах хуулийн хүрээнд явагдана. Монголд AI агент ашигладаг байгууллагын гэрээг энэ шалгалт өөрөө өөрчлөхгүй. Харин бүтээгдэхүүний аюулгүй байдлын амлалт, түүнийг нотлох материал, асуудал гарсан үед өгөх мэдээлэл гурвыг тусад нь харах хэрэгцээг тодруулж байна:

• Гэрээ: Агент ямар үйлдлийг хүний зөвшөөрөлгүй хийж болох, гаднын үйлчилгээ рүү хандах эрхийг хэн тохируулах, ямар нөхцөлд үйлдлийг зогсоохыг үйлчилгээний нөхцөл тодорхой заасан уу? Энэ нь FTC-ээс Монголын худалдан авагчид тавьсан шинэ шаардлага бус, худалдан авч буй боломжийн бодит хүрээг тогтоох асуулт юм.
• Аудит: Нийлүүлэгч аюулгүй байдлын талаарх мэдэгдлээ туршилтын арга, хамарсан орчин, хяналтын бүртгэл эсвэл бие даасан үнэлгээгээр тайлбарлаж чадах уу? Ерөнхий амлалт ба тодорхой нөхцөлд хийсэн үнэлгээний хоорондох ялгаа агентын ажиллагааг ойлгоход шууд нөлөөлнө.
• Ослын мэдээлэл: Агент зөвшөөрсөн хүрээнээс хазайж, өөр системд хүрсэн тохиолдолд үйлчилгээ үзүүлэгч хэнд, ямар мэдээллийг, ямар журмаар өгөхөөр тохирсон бэ? Энэ асуулт байгууллагын өгөгдөл болон холбогдсон бусад үйлчилгээнд нөлөө гарч болзошгүй үед онцгой ач холбогдолтой.

Дараагийн тодруулах зүйл нь FTC-ээс илгээх шаардлагын бодит хүрээ юм. Түүнд ямар компани, бүтээгдэхүүн, аюулгүй байдлын мэдэгдэл болон үнэлгээний материал багтах нь тодорхой болбол хэрэглэгчид агентын ерөнхий эрсдэлээс илүүтэй, худалдан авч буй үйлчилгээнийхээ тухай тодорхой баримтыг үнэлэх боломжтой болно.

Мөн уншаарай:

• AI агентыг prompt injection-оос хамгаалах нь: prompt дангаараа хүрэлцэхгүй
• DMARC-ийг шууд reject бүү болго: нэг mailto алдаа хамгаалалтыг чимээгүй унтраана
• UiPath агентын ажлыг зураглана: зөрүүтэй дүрэм автоматаар батлагдахгүй