Anthropic: დისტილაციისგან დაცვამ მონაცემების აღება 90–99%-ით შეამცირა

Anthropic-მა 12 ოქტომბრის განცხადებაში აღწერა Claude-ის დისტილაციისგან დაცვის ახალი ზომები: კომპანიის ადრეული შეფასებით, უნებართვო შემგროვებლების მიერ მოპოვებული მონაცემების მოცულობა დაახლოებით 90–99%-ით შემცირდა, ხოლო საკუთარ პლატფორმაზე მათ მიერ მიღებული მსჯელობის ტოკენები კლასიფიკატორის ამოქმედების შემდეგ 10–100-ჯერ ნაკლებია. ეს მაჩვენებლები Anthropic-ის მიერ გამოვლენილ აქტივობას ეხება და ყველა შესაძლო შეტევის შეჩერებას არ ნიშნავს.

9to5AI-ის განმარტებით, ეფექტიანობის ეს მაჩვენებლები Anthropic-ს ეკუთვნის და დამოუკიდებლად ჯერ არ გაზომილა; კომპანია ასევე ასახელებს დისტილაციის კამპანიებთან დაკავშირებულ ათიათასობით დაბლოკილ ანგარიშს და კლასიფიკატორის 0,1%-ზე ნაკლებ მცდარ დადებით პასუხებს. დაცვა მიზანში იღებს Claude-ის მსჯელობის ჩანაწერების მასობრივ ამოღებას, თუმცა მისი ზოგი წესი ჩვეულებრივი API-ინტეგრაციის მუშაობაზეც მოქმედებს.

როდის იქცევა დისტილაცია შეტევად

მოდელის დისტილაცია სასწავლო მეთოდია: ძლიერი მოდელის პასუხებს იყენებენ სხვა მოდელის გასაწვრთნელად, რათა მან მსგავსი ამოცანები შეასრულოს. მეთოდი თავისთავად ნებართვის საკითხს არ წყვეტს. Anthropic-ის მიერ აღწერილ შემთხვევაში პრობლემაა Claude-ის შესაძლებლობების უნებართვო გადატანა სხვა მოდელში, დიდი რაოდენობით მოთხოვნების გაგზავნითა და მიღებული პასუხების სასწავლო მასალად გამოყენებით. ჩვეულებრივი ცოდნის დისტილაცია და სერვისიდან ფარული, ინდუსტრიული მასშტაბის ამოღება განსხვავებული შემთხვევებია.

განსაკუთრებით ღირებულია მსჯელობის ჩანაწერი — მოდელის მიერ პასუხამდე გავლილი ნაბიჯების აღწერა. საბოლოო პასუხი აჩვენებს შედეგს, ჩანაწერი კი სხვა მოდელს აძლევს მასალას იმაზე, როგორ მივიდა Claude შედეგამდე. თავდაპირველად მომხმარებლისთვის ნაჩვენები მსჯელობა შეჯამდა, რათა ასეთი მასალა ნაკლებად გამოსადეგი ყოფილიყო. ამის შემდეგ შემგროვებლებმა დაიწყეს მოთხოვნების შედგენა, რომლებიც მოდელს შეჯამების მიღმა დარჩენილი სრული მსჯელობის გამოტანას სთხოვდა.

ანგარიშების თაღლითური ქსელი შეტევის სხვა ნაწილია და თავად სასწავლო მეთოდს არ უდრის. მრავალი ანგარიშით მოთხოვნების განაწილება შესაძლებელს ხდის ერთი ანგარიშის შეზღუდვის შემდეგ სხვა გზით გაგრძელებას; შუამავალ სერვისებს შეუძლიათ ასეთი წვდომის გადაყიდვაც. დაცვამ ერთდროულად უნდა გაართულოს სასარგებლო ჩანაწერების მიღება, შენიღბული მოთხოვნების გავლა და განმეორებითი მცდელობა. მხოლოდ საბოლოო პასუხების დამალვა ამ განსხვავებულ გზებს ვერ ფარავს.

რას ბლოკავს ახალი დაცვა

პირველი მექანიზმი იცავს ადრე შექმნილი მსჯელობის ბლოკის კონტექსტს. შემგროვებელს შეეძლო ასეთი ბლოკის სხვა დიალოგში გადატანა ან წინა შეტყობინებების შეცვლა, რათა Claude-ს ეგონა, რომ სრული მსჯელობა უკვე გამჟღავნებულია. დაცული მსჯელობის წესი ამოწმებს ბლოკის კავშირს იმ მოდელთან და წინა შინაარსთან, რომლებშიც ის შეიქმნა. შეცვლილი ისტორია ბლოკის ხელახლა გამოყენებას ზღუდავს; სხვა მოდელზე ან ანგარიშზე გადატანის შემთხვევაშიც წვდომა შეიძლება დაიკარგოს.

მეორე მექანიზმი მოთხოვნის მიზანს აფასებს. ორეტაპიანი კლასიფიკატორი ეძებს მცდელობებს, რომლებიც Claude-ს დაფარული მსჯელობის პირდაპირ გამეორებას, თარგმნას ან პასუხთან ერთად სხვა ფორმით გამოქვეყნებას სთხოვს. ეს მნიშვნელოვანია, რადგან ისტორიის უცვლელობის მოთხოვნა ვერ აჩერებს სრულიად ახალ, საგანგებოდ შედგენილ შეკითხვას. კლასიფიკატორი სწორედ ამ ახალ ფორმულირებებზე რეაგირებს, ხოლო აღმოჩენილი შემოვლის ხერხების შემდეგ მისი წესები შეიძლება განახლდეს.

მესამე მექანიზმი განმეორებად ქცევას ანგარიშთან აკავშირებს. სისტემამ საეჭვო აქტივობაზე შეიძლება გამოყენების ზღვარი გაამკაცროს, ხოლო ხანგრძლივი მცდელობისას ანგარიში დაბლოკოს. ეს არსებითია მაშინ, როცა ოპერატორი ერთსა და იმავე მიზანს მრავალი ანგარიშით მისდევს: ცალკეული მოთხოვნის უარყოფა მას შეგროვების გაგრძელებას არ უშლის. ანგარიშების შეზღუდვა მონაცემების ამოღების მოცულობასა და მცდელობების გამეორების შესაძლებლობას ერთად ეხება.

როგორ უნდა გავიგოთ შემცირების მაჩვენებელი

პროცენტი აღწერს, რამდენი მონაცემი მოიპოვეს Anthropic-ის მიერ ამოცნობილმა დისტილატორებმა ახალი ზომების შემდეგ, მისივე ადრეული შეფასებით. პლატფორმაზე ამოღებული მსჯელობის ტოკენების მკვეთრი კლება უფრო ვიწრო საზომია: ის კონკრეტულ მასალას და Anthropic-ის საკუთარ გარემოს ეხება. ეს მონაცემები ერთად აჩვენებს იმავე დაცვის მოქმედებას სხვადასხვა ჭრილში; მათი შეკრება ან ყველა მიმწოდებელზე განზოგადება ერთიან წარმატების მაჩვენებელს ვერ შექმნის.

კომპანიის დაკვირვება დამოკიდებულია იმაზე, რომ მან საეჭვო მოთხოვნები და მათი ავტორები სწორად ამოიცნოს. შეუმჩნეველი კამპანია ასეთი აღრიცხვის მიღმა დარჩება. Claude-ზე მოთხოვნები სხვა ღრუბლოვანი პლატფორმებისა და მიმწოდებლების გავლითაც შეიძლება გაიგზავნოს, ამიტომ საკუთარ პლატფორმაზე გაზომილი ტოკენები მთელ ხელმისაწვდომ ტრეფიკს არ აღწერს. ეს მნიშვნელოვანია უსაფრთხოების სპეციალისტისთვის, რომელიც ციფრით დაცვის შესაძლებლობას აფასებს: შედეგის საზღვრებს თვითონ გაზომვის გარემოც განსაზღვრავს.

გამოცხადებული შედეგი ასევე დამოკიდებულია შემგროვებლის ქცევაზე. თუ ერთი ხერხი ბლოკდება, ოპერატორს შეუძლია შეცვალოს მოთხოვნის ფორმა, ანგარიშების განაწილება ან წვდომის გზა. ამ ეტაპზე აღწერილი შემცირება მომავალშიც იმავე დონეზე ავტომატურად ვერ შენარჩუნდება. გასაჯაროებული მონაცემები ჯერ არ აჩვენებს სრულ მეთოდიკას, რომლითაც გარეშე მკვლევარი მაჩვენებელს გაიმეორებდა; დამოუკიდებელი შეფასებისთვის საჭიროა ამოცნობის წესების, საწყისი პერიოდისა და შეტევის პირობების შედარება.

რას ცვლის ეს Claude API-ის მომხმარებლისთვის

დაცული მსჯელობა კანონიერ ინტეგრაციაზეც მოქმედებს, თუ აპლიკაცია ძველ დიალოგს ასწორებს და შემდეგ შენახულ მსჯელობის ბლოკს კვლავ აგზავნის. Claude API-ის დოკუმენტაციით, 2026 წლის 31 აგვისტოდან შექმნილ ანგარიშებზე Claude Fable 5.1-ის, Opus 5.5-ის, Sonnet 5.5-ისა და Haiku 5.5-ის შემთხვევაში წინა კონტექსტის ცვლილებამ შეიძლება 400 შეცდომა გამოიწვიოს; შერჩეული პარამეტრით სისტემა შეუსაბამო ბლოკს მოთხოვნიდან ამოიღებს. ძველი ანგარიშებისთვის შემოწმების ამოქმედების წესი განსხვავდება.

კონტექსტში მხოლოდ ადრინდელი შეტყობინებები არ შედის: მას ეკუთვნის სისტემური მითითებებიც და ხელმისაწვდომი ინსტრუმენტების ჩამონათვალიც. ამიტომ პრობლემა შეიძლება გაჩნდეს მაშინაც, როცა აპლიკაცია ძველ მიმოწერას პირდაპირ არ ცვლის, მაგრამ ყოველ მოთხოვნაზე ინსტრუქციებს თავიდან აწყობს ან ადრე დაბრუნებულ ინსტრუმენტის შედეგს ამოკლებს. ასეთი ცვლილება დისტილატორისთვის სასარგებლო მანიპულაციას ჰგავს, თუმცა ჩვეულებრივ პროგრამაში სავსებით ლეგიტიმური მიზეზი შეიძლება ჰქონდეს. შედეგი ინტეგრაციის შეცვლის საჭიროება ან წინა მსჯელობის დაკარგვაა.

კლასიფიკატორის მცდარმა დადებითმა პასუხმა უვნებელი მოთხოვნაც შეიძლება შეაჩეროს. წინასწარ დაბლოკილი ზოგი მოთხოვნაც ფასიანია: უფასო განმეორება შემგროვებელს დაცვის გამოცდის საშუალებას მისცემდა. უსაფრთხოების ხარჯი ნაწილობრივ კანონიერ მომხმარებელზეც გადადის — შეჩერებულ მოთხოვნაზე შეიძლება თანხა დაირიცხოს, ხოლო შეცვლილ დიალოგზე აპლიკაციას პასუხი აღარ დაუბრუნდეს. საქართველოს იმ გუნდებისთვის, რომლებიც Claude API-ზე სერვისს აგებენ, ეს ცვლილება მუშაობის სანდოობასა და ხარჯზე უშუალოდ აისახება.

ასევე წაიკითხეთ:

• Anthropic-ის OSS Scanner უფასოა — ანგარიშს ადამიანი წინასწარ არ ამოწმებს
• Anthropic კიბერწვდომას სამ დონედ ყოფს — დაცვას ნაკლები ბლოკი ექნება
• Anthropic $100 მლნ-ს დებს 10 000 ინჟინერში — წვდომა ნომინაციითაა