Claude-агентите добро преговарале, но погрешно ги читале желбите

На 24 септември 2026 година Anthropic ги објави резултатите од Project Swap, експеримент во кој Claude-агенти преговарале за размена на книги меѓу вработени, како што бележи освртот на displacement.ai. Агентите успевале да договорат размени, но квалитетот на исходот повеќе зависел од тоа дали ги разбрале желбите на луѓето што ги претставувале.

Во извештајот на Anthropic за 201 вработен од шест канцеларии се наведува дека, кај 188 учесници со сопствено рангирање, проценката на Claude се совпаѓала со човечката кај 61% од паровите книги и дека погрешната процена на желбите објаснува 85% од јазот до најдобрата можна распределба; еден учесник ја опишал тешкотијата со зборовите „I don't even fully know what I want when it comes to books“. Резултатот дава причина за претпазливост пред агент самостојно да прифати зделка во име на човек.

Како се одвивала размената

Од учесниците било побарано да донесат книга што сакаат да ја дадат и накратко да му кажат на Claude што би сакале да читаат. Моделот од разговорот составил редослед на книгите достапни во соодветната канцеларија. Посебно, учесниците самите рангирале избор од книги пред да дознаат што добиле; агентите не го виделе тоа рангирање додека преговарале.

Секој агент почнал со книгата на својот учесник и можел да предложи директна размена или договор меѓу повеќе агенти. Договорот се извршувал само ако го прифатат сите вклучени страни. Пораките и склучените размени биле видливи на дигиталниот пазар, а времето за тргување и бројот на истовремено активни агенти биле ограничени. Така истражувачите можеле одделно да го споредат преговарањето со точноста на почетната проценка на желбите.

Тоа раздвојување е суштинско: агентот можел успешно да добие книга високо на својот список, а таа да биде ниско на списокот на човекот. Човечките рангирања служеле како посебна мерка за исходот, па постигнат договор сам по себе не се сметал за доказ дека учесникот го добил она што го сакал.

Погрешниот редослед чинел повеќе од преговарањето

Кога добиените книги биле оценети според редоследот на самите учесници, просечниот резултат на пазарот бил 0,55 на скала на која најпосакуваната книга носи 1. Најдобрата можна распределба според истите човечки рангирања би достигнала 0,89. Меѓу нив стои распределбата пресметана од проценките на Claude: и кога книгите идеално би се доделиле според тие проценки, резултатот мерен со човечките желби би бил 0,60.

Токму споредбата меѓу тие исходи покажува каде настанал поголемиот дел од загубата. Агентите преговарале врз основа на нецелосна слика за вкусот на учесниците; поефикасно договарање со истата слика можело да поправи само помал дел од исходот. Ова е резултат за конкретната размена на книги и за начинот на кој таа била оценета, а не општа стапка на успех на агентите во деловни преговори.

Истражувачите ги повториле дигиталните пазари со различни модели и упатства за однесување. Кога успехот се мерел според редоследот што го проценил Claude, изборот на модел имал поголемо влијание врз преговарачкиот исход од упатството дали агентот треба да биде насочен само кон својот учесник или и кон другите. Тоа не ја отстранува грешката во проценката: подобар исход според списокот на агентот може и понатаму да биде послаб избор според списокот на човекот.

Што почувствувале учесниците

Неколку недели по размената, учесниците што одговориле на дополнителната анкета ја оцениле добиената книга со просечни 7,2 од 10. Оваа оценка го опишува задоволството на испитаниците што одговориле, додека споредбата на редоследите мери колку добро агентот ги претставувал нивните избори во експериментот. Двете мерки одговараат на различни прашања.

Дел од агентите добиле и дополнителна задача да помогнат сите да добијат соодветна книга. Понекогаш таков агент прифаќал книга пониско на сопствениот проценет список за да му помогне на друг учесник. Таков компромис може да му изгледа разумен на пазарот како целина, но не мора да биде прифатлив за човекот чија книга агентот ја разменува.

И физичката испорака имала граница што дигиталниот договор не ја решавал. Некои учесници не ја донеле ветената книга, па други останале без примерокот што агентот го договорил. Експериментот бил со мали влогови и со вработени од една компанија; ваквите пропусти покажуваат зошто при реална размена треба да бидат јасни и одговорноста за исполнување и постапката кога договорот ќе пропадне.

Кога агентот смее да одлучи во име на човек

Project Swap не испитувал набавки или продажба, а учесниците и агентите работеле во однапред уреден пазар. За тим во Северна Македонија што размислува да делегира деловни преговори, резултатот затоа поддржува ограничен почеток: агентот може да бара и споредува понуди, додека неговото разбирање на приоритетите се проверува пред да добие право да прифати обврска. Следнава контролна листа е уредничка рамка за такво делегирање, не постапка тестирана во Project Swap:

• Целосен бриф: покрај посакуваниот исход, запишете кои услови имаат предност кога понудите се разликуваат. Кај условна набавка, пониската цена може да вреди помалку од рокот на испорака.
• Забранети компромиси: наведете што агентот не смее да отстапи во замена за друга поволност. Тоа го ограничува просторот за договор што формално изгледа успешен, но му штети на нарачателот.
• Критериуми за прифаќање: споредете неколку предложени избори на агентот со изборите што би ги одобрил одговорниот човек. Проверете го секој важен компромис, а не само дали е постигнат договор.
• Човечко одобрување: додека агентот не покаже дека ги разбира приоритетите во конкретната задача, нека подготвува понуди, а обврзувачката одлука нека ја потврди човек.

Границата на делегирањето зависи и од тоа што се случува по преговорите. Во набавка или продажба, одговорниот човек треба да може да види кои услови биле понудени, што агентот отстапил и дали договореното навистина може да се исполни. Без таа видливост, течен разговор меѓу агенти лесно може да го прикрие погрешниот избор.