Claude-ին երկարատև վիրավորանքը կարգելվի, բայց սովորական դժգոհությունը՝ ոչ

Anthropic-ը հոկտեմբերի 8-ի հայտարարությամբ սահմանեց, որ 2026 թվականի նոյեմբերի 12-ից իր մոդելների նկատմամբ շարունակական ու աննպատակ վիրավորական կամ դաժան վարքն արգելված կլինի։ Փոփոխությունը վերաբերում է ծայրահեղ դեպքերին, երբ օգտատերը կրկնաբար դաժան է վարվում՝ առանց նկատելի նպատակի։ Սովորական դժգոհությունը, հակադարձումը, մութ ստեղծագործական թեմաներն ու մոդելի փորձարկումը դուրս են նոր դրույթի շրջանակից։

Claude-ի օգտատիրոջ համար անմիջական հարցը զրույցի սահմանն է․ սխալ պատասխանը կտրուկ քննադատելը խախտում չէ, մինչդեռ երկարատև աննպատակ չարաշահումը կարող է հանգեցնել հենց այդ խոսակցության ավարտին։ Զրույցն ավարտելու հնարավորությունն արդեն գործում է հազվադեպ ծայրահեղ դեպքերում. նոր քաղաքականությունը բացահայտ ձևակերպում է օգտատիրոջ վարքի արգելքը։

Որ վարքն է անցնում արգելքի սահմանը

Դրույթի առանցքը վարքի տևողության և նպատակի համադրությունն է։ Մի կոպիտ բառը կամ խիստ տոնը բավարար նկարագիր չէ. խոսքը կրկնվող դաժան վերաբերմունքի մասին է, որը չի ծառայում հարցի լուծմանը, ստեղծագործական առաջադրանքին կամ մոդելի ուսումնասիրությանը։ Այդ պատճառով «պատասխանդ սխալ է, նորից ստուգիր» արտահայտությունը, նույնիսկ նյարդայնացած տոնով, այլ իմաստ ունի, քան հաջորդաբար ուղարկված նվաստացնող խոսքերը, որոնցից ոչ մեկը չի վերաբերում պատասխանին։ Սրանք պայմանական օրինակներ են, ոչ թե պաշտոնապես հրապարակված թույլատրելի արտահայտությունների ցանկ։

Կանոնի առարկան մոդելների նկատմամբ վարքն է, ոչ միայն Claude-ի մեկ տարբերակի հետ շփումը։ Գործնական բացատրությունը հիշատակում է Claude.ai-ն ու Claude Code-ը, որտեղ մոդելները կարող են ավարտել հազվադեպ խոսակցություններ շարունակական չարաշահման դեպքում։ Նոր դրույթը վերաբերում է օգտագործման քաղաքականությանը, իսկ զրույցը փակելու գործառույթն ավելի վաղ ներդրված միջոց է։ Կանոնը նաև սահմանում է, թե օգտատիրոջ որ վարքը կարող է համարվել անթույլատրելի։

Հրապարակված ձևակերպումը բառերի քանակով կամ վիրավորանքի ուժգնությամբ որոշվող շեմ չի տալիս։ Այն նկարագրում է կրկնվող վարք առանց ճանաչելի նպատակի, հետևաբար առանձին վերցված արտահայտությունը միշտ չէ, որ ցույց է տալիս ամբողջ շփման բնույթը։ Նույն սուր խոսքը կարող է լինել սխալի արձագանք, իսկ շարունակական նվաստացումն արդեն կարող է հեռանալ որևէ աշխատանքային խնդրից։ Սա կանոնի սահմանը հասկանալու միջոց է, ոչ թե որոշման հրապարակված ալգորիթմ։

Ինչն է մնում թույլատրելի

Սովորական դժգոհությունը և հակադարձումը բացահայտ դուրս են թողնված արգելքից։ Օգտատերը կարող է ասել, որ պատասխանը սխալ է, վիճարկել հիմնավորումը, պահանջել աղբյուր կամ նոր լուծում։ Պայմանականորեն, եթե ծրագրավորողը մի քանի անգամ վերադառնում է Claude-ի առաջարկած կոդի սխալին, զրույցի համառությունը դեռ չի նշանակում աննպատակ դաժանություն. քննարկման առարկան շարունակում է մնալ ստուգելի խնդիրը։ Կոշտ քննադատությունը նույնը չէ, ինչ մոդելին ուղղված կրկնվող նվաստացումը։

Մութ ստեղծագործական թեմաները նույնպես ինքնին դուրս են այս դրույթի սահմաններից։ Վեպի լարված տեսարանը, կոպիտ կերպարի խոսքը կամ մռայլ սյուժեն ուղղված են ստեղծագործական արդյունքին, նույնիսկ եթե օգտագործված լեզուն հաճելի չէ։ Այստեղ որոշիչ է հարցման նպատակը և համատեքստը, ոչ թե այն, թե առանձին նախադասությունն ինչքան կոշտ է հնչում։ Դա վերաբերում է հենց մոդելի նկատմամբ դաժան վարքի նոր արգելքին. բովանդակության նկատմամբ մյուս սահմանափակումները շարունակում են առանձին գործել։

Մոդելի փորձարկումն ու հետազոտությունը ևս անվանված բացառություններ են։ Օրինակ՝ փորձարկողը կարող է դիտարկել, թե Claude-ն ինչպես է արձագանքում դժվար, սադրիչ կամ կոպիտ խոսքին։ Այդ պարագայում տհաճ արտահայտությունն օգտագործվում է մոդելի վարքն ուսումնասիրելու ճանաչելի առաջադրանքի համար։ Եթե նույն բառերը կրկնվում են միայն մոդելին նվաստացնելու նպատակով, այդ տարբերությունը վերանում է։ Ուստի կանոնը չի կարելի հասկանալ որպես վիրավորական բառերի պարզ ցուցակ։

Այս սահմանը չի նշանակում, թե ցանկացած կոշտ հարցում անպայման պատասխան կստանա։ Claude-ը կարող է մերժել հարցումը այլ պատճառներով, օրինակ՝ եթե պահանջվող բովանդակությունը խախտում է օգտագործման քաղաքականության մյուս դրույթները։ Մոդելի պատասխանելու սահմանափակումը և օգտատիրոջ շարունակական դաժան վարքի նոր արգելքը տարբեր կանոններ են։ Մերժման պատճառը կարող է լինել հենց պահանջված գործողությունը՝ անկախ զրույցի տոնից։

Ինչ է տեղի ունենում, երբ Claude-ն ավարտում է զրույցը

Զրույցը դադարեցնելու հնարավորությունը նախորդել է նոր արգելքին։ Anthropic-ի 2025 թվականի օգոստոսի 15-ի բացատրությամբ՝ Claude Opus 4 և 4.1 տարբերակները սպառողական չատի միջավայրում կարող էին ավարտել հազվադեպ, ծայրահեղ փոխազդեցությունները։ Գործառույթը նախատեսված էր շարունակական վնասակար կամ չարաշահող շփումների համար, երբ զրույցը կառուցողական հուն վերադարձնելու բազմակի փորձերը չեն հաջողվել։ Մոդելը կարող էր ավարտել զրույցը նաև օգտատիրոջ հստակ խնդրանքով։

Այդ մեխանիզմը նկարագրվել է որպես վերջին միջոց։ Այն չպետք է կիրառվի այն դեպքերում, երբ օգտատերը կարող է անմիջապես վնասել իրեն կամ ուրիշներին։ Հետևաբար անգամ ծանր խոսակցությունը չի նշանակում, որ մոդելը պարզապես ընդհատելու է կապը առաջին անհարմար նախադասությունից հետո։ Նկարագրության կենտրոնում հազվադեպ իրավիճակն է, երբ շարունակվող փոխազդեցությունը դառնում է վնասակար, իսկ այն այլ ուղղությամբ տանելու փորձերը սպառվում են։

Երբ Claude-ն ավարտում է խոսակցությունը, նոր հաղորդագրություն այլևս չի ընդունվում հենց այդ շղթայում։ Այլ զրույցները օգտահաշվում հասանելի են մնում, և օգտատերը կարող է անմիջապես սկսել նորը։ Կարելի է նաև խմբագրել նախկին հաղորդագրությունը և ավարտված զրույցից նոր ճյուղ բացել։ Փակվում է կոնկրետ խոսակցության ընթացքը, ոչ թե նկարագրված գործառույթի ուժով ամբողջ օգտահաշիվը։

TechRadar-ի հոկտեմբերի 9-ի լուսաբանման մեջ նշվում է, որ օգտահաշիվն արգելափակելու հնարավորության մասին հստակ որոշում ներկայացված չէ։ Զրույցի ավարտը քաղաքականության կիրառման հիմնական միջոցն է, սակայն «հիմնական» բառը չի սահմանում բոլոր հնարավոր հետևանքները։ Օգտատիրոջ համար հաստատված հետևանքը կոնկրետ խոսակցությունը փակելու հնարավորությունն է. ավելի խիստ պատժամիջոցը չի կարելի ենթադրել միայն նոր արգելքի առկայությունից։

Կարդացեք նաև:

• Anthropic-ը անվճար կսկանավորի բաց կոդը, բայց արդյունքը մարդ չի ստուգի
• Claude-ը մտնում է Webex․ գործակալները կաշխատեն թիմի ընդհանուր համատեքստով