Anthropic ја намали AI-дестилацијата до 99% — доказот е внатрешен

На 12 октомври 2026 година Anthropic објави нови одбрани на Claude; извештајот на Reuters ја пренесува нејзината рана проценка за околу 90–99% помалку податоци собрани во напади со дестилација. Тоа е резултат што го пријавува компанијата, а не независно повторено мерење. Во ваков напад, собраните одговори од еден модел се користат за обука на друг модел што треба да ги повтори неговите способности.

Во објавата на Anthropic од 12 октомври 2026 година, падот на извлечените токени од резонирањето на сопствената платформа е опишан како „10 to 100 times lower than it was before“; компанијата пријавува стапка на лажни позитиви под 0,1%, забрана на десетици илјади сметки и признава: „We don’t yet know how long these gains will last“. За легитимните API-корисници промената има последици кога нивните интеграции враќаат блокови со претходно резонирање во следно барање.

Зошто напаѓачите го бараат скриеното резонирање

Конечниот одговор на Claude му покажува на друг модел што да произведе. Записот од резонирањето дава дополнителен материјал: чекорите преку кои Claude дошол до одговорот. Затоа ограничувањето на пристапот до тие записи може да ја намали вредноста на секое успешно барање за напаѓач што собира податоци за обука.

Една од претходните мерки била корисникот да добие резиме од резонирањето наместо целиот запис. Во тестот што го опишува Anthropic, обуката со резимеа дала послаб резултат на задачите за програмирање од обуката со целосни записи. Потоа нападите се насочиле кон активно извлекување: барања Claude да го испише претходното скриено резонирање, понекогаш преформулирано како превод или како дополнување на одговорот. Така одбраната мора да ја штити и содржината на блокот и начинот на кој тој се користи во следните повици.

Трите слоја на новата одбрана

Првиот слој го ограничува пренесувањето на зачуваното резонирање. Блок вратен во ново барање се проверува во однос на разговорот што го создал; промена на претходните инструкции, алатки или пораки може да го направи невалиден. Одделни модели не можат да читаат блокови создадени од други модели, а за дел од поновите модели важи и ограничување по сметка. Целта е напаѓачот потешко да префрла заштитен материјал меѓу разговори и сметки за повторени обиди за извлекување.

Вториот слој е класификатор што препознава барања за откривање на скриеното резонирање и ги блокира. Anthropic го обучувала и испитувала со записи од обиди за извлекување, вклучувајќи внатрешни и надворешни обиди за пробивање. Кога ќе се појави нов начин за заобиколување, како барање записот да се преведе или да се стави во посебни ознаки покрај одговорот, заштитата се менува. Тоа е постојан процес, бидејќи формата на барањето може да се промени иако целта останува иста.

Третиот слој ја зголемува цената на повторувањето. Сметките што упорно бараат скриено резонирање може да добијат построги ограничувања или да бидат забранети. Anthropic наплаќа и одредени барања што заштитата ги блокира пред Claude да одговори. За кампања што испраќа многу варијанти на едно барање, неуспешните обиди затоа трошат пристап и пари, додека пренесувањето меѓу сметки станува помалку корисно.

Што покажува мерењето, а што останува проценка

Општата проценка за помалку собрани податоци и потесното мерење на токените од резонирањето не се ист показател. Второто го следи материјалот што Anthropic проценува дека напаѓачите го извлекле преку нејзината платформа пред и по воведувањето на класификаторот. Падот го опишува забележаниот сообраќај таму; со него не може да се пресмета колку податоци се собрани преку сите други платформи што нудат пристап до Claude.

И проценката кои сметки припаѓаат на кампањи за дестилација, и пресметката на извлечениот материјал доаѓаат од Anthropic. Јавно објавените податоци не се доволни независен истражувач да ја повтори таа пресметка. Затоа пријавениот ефект е значаен показател за сопствената платформа на компанијата, но неговата трајност ќе зависи и од тоа како напаѓачите ќе ги приспособат своите барања.

Како промената се одразува врз Claude API

За интеграциите што враќаат блокови со резонирање, најважно е што се случува со претходниот контекст. Според документацијата за зачувано резонирање, проверката на неизменет контекст стандардно важи за API-сметки отворени од 31 август 2026 година кај Claude Fable 5.1, Claude Opus 5.5, Claude Sonnet 5.5 и Claude Haiku 5.5. Кај постарите сметки таа проверка се спроведува кога барањето ја вклучува соодветната поставка.

Интеграција што го скратува стариот разговор, ги препишува системските инструкции или ја менува листата на алатки може да го направи зачуваниот блок невалиден. Во зависност од поставката, API ќе го одбие барањето или ќе го исфрли блокот и ќе продолжи без него. Вториот исход може да бара моделот повторно да резонира, што влијае врз потрошените токени и времето за одговор.

Промена на модел или пренесување блок меѓу сметки може да има поинаков, потивок исход: барањето успева, но новиот модел не го чита старото резонирање. Кај системи што насочуваат повици кон повеќе модели или сметки, успешен API-одговор затоа сам по себе не покажува дали претходниот блок бил искористен. Тоа е конкретната граница на новата заштита за легитимните корисници: разговорот може да продолжи, но без дел од контекстот на кој се потпирала интеграцијата.

Прочитајте и:

• FTC ги истражува OpenAI и Anthropic: безбедноста станува правно прашање
• Anthropic го отвори OSS Scanner, но извештаите може да бидат неточни
• Anthropic вложува 100 милиони долари: 10.000 инженери ќе учат на проекти