Claude-ийн шинэ дүрэм: өндөр эрсдэлтэй шийдвэрт хүн заавал оролцоно

Anthropic 10-р сарын 8-ны мэдэгдэлдээ Claude-д хамаарах шинэчилсэн Usage Policy-г нийтэлж, 2026 оны 11-р сарын 12-ноос мөрдүүлэхээр зарлав. Бодлого эрүүл мэнд, санхүү, ажилд авах болон хүний амьдралд нөлөөлөх бусад зөвлөмжийг шийдвэр болохоос өмнө мэргэшсэн хүн хянах шаардлагыг илүү тодорхой тайлбарлажээ.

Энэ хяналт болон нөлөөлөх хүнд AI ашигласныг мэдэгдэх үүрэг өмнөх бодлогод байсан гэж FourWeekMBA-ийн шинэчлэлтийн тойм тэмдэглэсэн. Шинэ текстэд ямар зөвлөмж хамрагдахыг дэлгэрүүлж, Claude-ийн гаралтыг ашиглан төхөөрөмж хүний урьдчилсан зөвшөөрөлгүй хөдөлдөг тохиолдолд тусдаа хамгаалалт нэмсэн. Тиймээс байгууллагын хувьд ялгах гол зүйл нь Claude мэдээлэл өгч байна уу, тодорхой хүний тухай зөвлөмж гаргаж байна уу, эсвэл бодит төхөөрөмжид үйлдэл өгч байна уу гэдэг юм.

Хүний хяналт шаардах зөвлөмжийн хүрээ

Anthropic-ийн Usage Policy дахь 11 чиглэлийн жагсаалт нь хувь хүний эрүүл мэнд, эрх, орлого, орон сууц, боловсрол болон суурь үйлчилгээ авах боломжид нөлөөлөх зөвлөмжийг хамарна. Нэг салбарт ажилладаг бүх хэрэглээг ижил ангилахгүй: ерөнхий мэдээлэл өгөхөөс тухайн хүний нөхцөлд үнэлгээ, санал гаргах руу шилжихэд өндөр эрсдэлтэй зөвлөмжийн шаардлага үүснэ.

• Эрх зүй: хүний эрх, үүрэг, хариуцлага эсвэл тодорхой хэрэгт хэрхэн ажиллах талаар зөвлөх; гарын үсэг зурах, албан ёсоор өгөх баримт бэлтгэх.
• Эмнэлгийн зөвлөгөө: оношлох, шинж тэмдэг болон шинжилгээний хариуг тайлбарлан эмчилгээ, эмийн хэрэглээ, тун санал болгох; сэтгэцийн эрүүл мэндийг үнэлэх.
• Санхүү: тодорхой хөрөнгө оруулалтын бүтээгдэхүүнийг авах, зарах, хадгалах талаар хувь хүнд тохируулсан зөвлөмж өгөх; татварын тайлан бэлтгэх.
• Зээл: хүсэлтийг зөвшөөрөх, татгалзах, хэмжээ, хүү, лимит тогтоох эсвэл ийм шийдвэрт ашиглах зээлийн чадварын үнэлгээ гаргах.
• Даатгал: гэрээний үнэ, нөхөн төлбөр, хамрах хүрээ, эмчилгээний урьдчилсан зөвшөөрлийг шийдэх; гэрээг цуцлах эсвэл сунгахаас татгалзах.
• Орон сууц: түрээслэх, худалдан авах хүсэлтийг эрэмбэлэх, зөвшөөрөх, татгалзах; түрээсийг дуусгах, албадан чөлөөлөх ажиллагаа эхлүүлэх.
• Хөдөлмөр эрхлэлт: ажил горилогчийг шүүх, эрэмбэлэх, ажилд авах; дэвшүүлэх, цалин ба ээлжийг өөрчлөх, гүйцэтгэлээр сахилгын шийдвэр гаргах.
• Боловсрол ба мэргэжлийн эрх: элсэлт, төгсөлт, мэргэжлийн зөвшөөрөлд нөлөөлөх үнэлгээ хийх; эрх олгох, цуцлах эсвэл суралцагчийг хасах.
• Эрүүл мэндийн үйлчилгээ авах боломж: үзүүлэх дараалал тогтоох, эмчилгээ, үйлчилгээ авах эрхийг шийдэх, түүнийг зогсоох.
• Төрийн тэтгэмж ба үйлчилгээ: хамрагдах эрх, олгох хэмжээг тогтоох, тэтгэмж эсвэл суурь үйлчилгээг түдгэлзүүлэх, зогсоох.
• Эрх зүйн байдал ба маргаан: иргэний, захиргааны эсвэл арбитрын маргааны үр дүнг шийдэх, санал болгох; цагаачлал, орогнол, иргэншлийн байдлыг тогтоох.

Хуулийн ерөнхий утгыг тайлбарлах, эрүүл амьдралын хэв маягийн мэдээлэл өгөх, мэргэжлийн хүний өмнө нь гаргасан шийдвэрийг тайлбарлах зэрэг нь өөрөө өндөр эрсдэлтэй зөвлөмж биш. Дотоод судалгаа, хураангуй ч эцсийн зөвлөмж болж хүрэхгүй бол энэ ангилалд автоматаар орохгүй. Харин загвар тухайн хүний зээл, эмчилгээ эсвэл ажилд орох боломжийн талаар дүгнэлт гаргаж эхэлбэл түүнийг ашиглах урсгалд хүний хяналт хэрэгтэй.

Баталгаажуулалт шийдвэрээс өмнө хийгдэнэ

Мэргэшсэн хүн зөвлөмжийг бодитоор хянаж, шаардлагатай бол өөрчлөх эрхтэй байх ёстой. Тэр хүн тухайн салбарын гаралтыг үнэлэх сургалт эсвэл туршлагатай, холбогдох хууль мэргэжлийн зөвшөөрөл шаарддаг бол түүнийг эзэмшсэн байна. Хяналт нь зөвлөмжийг хувь хүнд хүргэхээс, эсвэл байгууллага түүгээр шийдвэр хэрэгжүүлэхээс өмнө хийгдэнэ; эцсийн зөвлөгөө, шийдвэрийн хариуцлага хянагчид үлдэнэ.

Жишээлбэл, зээлийн хүсэлтэд Claude-ийн үнэлгээ автоматаар татгалзсан хариу илгээдэг бол хүн шийдвэрийг өөрчлөх бодит боломжгүй. Харин эрх бүхий ажилтан үнэлгээг харж, үндэслэлийг нь нягтлаад хариуг өөрчилж чаддаг шат нь бодлогын шаардлагад нийцүүлэх боломжтой зохион байгуулалт юм. Энэ нь зөвхөн урсгалын жишээ; зээлийн болон хувийн мэдээллийн тухай Монголд үйлчлэх хуулийн шаардлагыг тусад нь хангана.

Бодлогод хүний урьдчилсан хяналтаас тодорхой чөлөөлөх нөхцөл бий. Хууль зөвшөөрсөн тохиолдолд даатгалын нөхөн төлбөрийг бүрэн олгох, эмчийн захиалсан тусламжийг бүрэн зөвшөөрөх, эрүүл мэндийн үйлчилгээ эсвэл төрийн тэтгэмж авах эрхийг бүрэн олгох зэрэг хувь хүнд бүхэлдээ ашигтай шийдвэрийг өмнө нь хүнээр хянуулах шаардлагагүй. Хэсэгчлэн зөвшөөрөх, дүнг бууруулах, нөхцөл тавих нь энэ чөлөөлөлтөд орохгүй; AI ашигласныг мэдэгдэх зэрэг бусад үүрэг мөн хамаарч болно.

Мэдэгдэл ба хяналтын мөр

Өндөр эрсдэлтэй зөвлөмжийг хүлээн авсан хүн, эсвэл түүнд үндэслэсэн шийдвэрт өртсөн хүнд AI оролцсоныг тодорхой мэдэгдэх ёстой. Заавал Anthropic, Claude эсвэл загварын нэрийг дурдах шаардлагагүй. Гаднын хэрэглэгчтэй шууд харилцдаг чатбот, агентын хувьд хүнтэй бус AI-тай харилцаж байгааг ярианы эхэнд эсвэл бүтээгдэхүүний интерфейст ил тод болгох тусдаа заалт үйлчилнэ.

Бодлого хадгалах ёстой логийн талбаруудыг нэг бүрчлэн заагаагүй. Гэхдээ хүний хяналт шийдвэрээс өмнө болсон эсэхийг тогтооход зөвлөмж гарсан үе, хянагчийн шийдвэр, хийсэн өөрчлөлт, хэрэглэгчид хүрсэн эцсийн хариуг холбож бүртгэх нь бүтээгдэхүүний багт хэрэгтэй. Энэ нь бодлогын үгчилсэн логийн шаардлага бус, хянагч зөвлөмжийг өөрчилж чадсаныг нотлох ажиллагааны арга бөгөөд бүртгэлийн хүрээ, хадгалах хугацааг хувийн мэдээллийн шаардлагатай уялдуулна.

Төхөөрөмж хөдөлгөдөг агентын нэмэлт хамгаалалт

Claude-ийн гаралтыг хүн урьдчилан зөвшөөрөхгүйгээр төхөөрөмж гүйцэтгэж, алдаа нь гэмтэл учруулж болзошгүй бол мэргэшсэн оператор ажиллагааг ажиглаж, хэзээ ч зогсоож чаддаг байх ёстой. Оператор оролцох эсвэл Anthropic-ийн үйлчилгээтэй холболт тасрахад төхөөрөмж зогсох, эсвэл аюулгүй төлөвөө хадгална. Хурд, хүч, температур, даралт, тун зэрэг хязгаарыг загварын хариунаас үл хамаарах төхөөрөмж эсвэл удирдлага мөрдүүлэх шаардлагатай.

Энэ хүрээнд хүн байж болох орчинд хөдөлдөг тээврийн хэрэгсэл, робот; хавчих эсвэл цохих хүчтэй механизм; аюултай энерги, бодис удирдах төхөөрөмж; хүний биед үйлчлэх хэрэгсэл; галын болон ослын хамгаалалтын систем; доголдвол хүн гэмтээж болзошгүй үйлдвэрлэлийн процесс багтана. Харин мэргэшсэн хүн командыг төхөөрөмж ажиллахаас өмнө шалгаж зөвшөөрдөг, эсвэл систем төхөөрөмжийг зөвхөн ажиглаж мэдээлдэг бол энэ тусгай физик үйлдлийн шаардлага үйлчлэхгүй. Төхөөрөмжийн салбарын аюулгүй ажиллагааны хууль, зөвшөөрлийг уг бодлого орлохгүй.

Хүний хяналтаар зөвшөөрөгдөхгүй хэрэглээ

TechCrunch-ийн шинэчлэлтийн тухай мэдээ сонгуульд хууран мэхлэх замаар нөлөөлөх, зэвсэг ажиллуулах программ, тандалтын хэрэглээ болон загварыг удаан хугацаанд зорилгогүй доромжлохыг хориглосон заалтуудыг онцолсон. Мөн Claude-ийг эрүүгийн хэрэгт хэнийг шалгах, баривчлах эсвэл яллахаа шийдэх, санал болгоход ашиглахыг бодлого хориглодог. Ийм хэрэглээг өндөр эрсдэлтэй зөвлөмж гэж ангилаад хүнээр баталгаажуулснаар зөвшөөрөгдөхгүй.

Шинэ текст хэрэгжихэд зээл, эмчилгээ, ажилд авах зэрэг урсгалын хамгийн чухал зааг нь загварын санал хаанаас хувь хүнд хүрэх зөвлөгөө эсвэл хэрэгжих шийдвэр болж байгаад оршино. Тэр заагаас өмнөх хүний хяналт, нөлөөлөх хүнд өгөх мэдэгдэл, харин төхөөрөмж өөрөө үйлдэл хийдэг бол бие даасан зогсоох хамгаалалт нь бүтээгдэхүүний ажиллагаанд туссан байх ёстой.

Мөн уншаарай:

• ESA Mistral-ийн AI-г сансарт ашиглана, шийдвэрийг хүн гаргасан хэвээр
• Claude агентууд ном солилцов: алдааны 85% нь хүнийг буруу ойлгосноос үүджээ
• Stock option эсвэл RSU: үнэгүй хувьцаа заавал эрсдэл багатай биш