Claude затяга правилата: оператор трябва да може да спре автономна машина

На 8 октомври 2026 г. Anthropic обяви обновена Usage Policy за Claude, която влиза в сила на 12 ноември 2026 г. Когато моделът задейства потенциално опасно физическо действие без предварително човешко одобрение, квалифициран оператор трябва да може да наблюдава и спре оборудването. Новият текст уточнява и правилата за измамни кампании, оръжеен софтуер, наблюдение и препоръки, които засягат отделни хора.

TechCrunch описва актуализацията като изрично формулиране на ограничения за изборни злоупотреби, оръжеен софтуер и наблюдение. За организация, която използва Claude в България или друга държава от ЕС, основното разграничение е между забранена употреба, употреба с човешки преглед и физическо действие, за което са нужни контрол от оператор и независими технически граници. Anthropic посочва, че голяма част от редакцията уточнява вече прилагани правила.

Кога машината трябва да има оператор

Пълната Usage Policy изисква квалифициран човек да може да наблюдава работата и да спре оборудването по всяко време при високорисково физическо действие. При намеса на оператора или загуба на връзка с услугата машината трябва да спре или да остане в безопасно състояние. Ограниченията за опасни параметри като скорост, сила, температура и доза трябва да се налагат от оборудването или от контролер, независим от изхода на модела.

Условието се прилага, когато хардуер изпълнява изхода на Claude без предварително човешко одобрение и може да причини вреда. Сред посочените случаи са мобилен робот, който се движи сред хора, машина, способна да приложи опасна сила, управление на опасна енергия или материали и устройство, което въздейства върху човешкото тяло. Обхванати са и системи за безопасност, например управление на аварийно изключване, вентилация или прегради, които могат да задържат човек.

Разликата е в момента на човешката намеса. Ако квалифициран специалист преглежда командите преди изпълнението им, условието за автономно физическо действие не се задейства; същото важи за система, която само наблюдава оборудване. Ако машината действа самостоятелно, възможността за спиране е само част от изискването: безопасното поведение при прекъсната връзка и независимите работни граници остават задължителни.

Измамни кампании, оръжия и наблюдение

Правилата за координирана измамна дейност вече са събрани в отделен раздел и обхващат политически и търговски кампании. Забранени са фалшиви профили и медии, прикриване на спонсора на послание и мрежи от привидно независими сайтове или акаунти, които скриват общия му произход. Ограничението включва и изграждане на инструменти за такива операции. При избори фокусът е върху заблуждаване на избиратели и нарушаване на процеса; общата забрана за персонализирано насочване на кампании е премахната, но измамното насочване и злоупотребата с лични данни остават забранени.

Забраната за оръжия изрично включва разработване или използване на софтуер и компоненти за изпитване и управление на оръжейни функции, включително насочване и задействане. Тя обхваща и въоръжаване на дронове и други автономни платформи. Затова човешки оператор и бутон за спиране не превръщат забранена оръжейна употреба в разрешен случай на високорисково физическо действие.

При наблюдението политиката забранява проследяване на човек или негово имущество без съгласие, включително чрез анализ на вече събрани данни. Тя забранява също изграждането на инструменти за такава употреба и използването на Claude за предложения кого да разследват, арестуват или обвинят органите. Анализ, за който човек е дал съгласие — например наблюдение на собствена финансова сметка за измами — е разграничен от тази забрана. Отделно е добавено ограничение за продължително и безцелно жестоко отношение към моделите; то е насочено към крайни повтарящи се случаи.

Кой преглежда решенията за конкретен човек

За високорискова препоръка квалифициран човек трябва да прегледа смислено резултата и да има право да го промени, преди той да бъде предоставен като съвет или използван за решение. Засегнатият човек трябва ясно да бъде уведомен, че е използван AI. Политиката посочва конкретни случаи в здравеопазването, инвестициите и данъците, кредитирането, застраховането, заетостта, жилищното настаняване и достъпа до основни услуги.

Критерият е дали Claude прави преценка за конкретен човек. Общо обяснение как работи лечение или инвестиционен продукт е различно от предложение за терапия или покупка на актив според личните обстоятелства. Вътрешен проект, който не достига като крайна препоръка до засегнатия човек, също е разграничен от високорисковия съвет. При определени решения, които са изцяло в полза на човека, политиката допуска изключение от предварителния човешки преглед, когато законът го позволява; частично или условно одобрение не попада в него.

Сценарий, изискване и отговорен човек

За екипите, които изграждат продукти с Claude, правилата могат да се преведат в разпределение на отговорностите. Посочените по-долу роли са практичен организационен избор; политиката определя необходимия контрол, без да предписва длъжностите в компанията.

• Здраве: при индивидуална диагноза, оценка на симптоми или предложение за лечение квалифициран медицински специалист преглежда препоръката преди предоставянето ѝ. Продуктовият екип осигурява и ясно уведомяване, че в съвета е използван AI.
• Финанси: при персонализирана инвестиционна или данъчна препоръка квалифициран специалист трябва да може да промени резултата преди предоставянето му. Отговорникът за финансовия продукт определя къде автоматичният процес изчаква този преглед.
• Наблюдение: проследяване без съгласие и предложения за решения в наказателен процес са забранени употреби, които човешки преглед не разрешава. Продуктовият и правният екип трябва да изключат такива функции от приложението.
• Автономни физически действия: инженерният екип осигурява независими граници на работа и безопасно състояние при загуба на връзка. Квалифицираният оператор наблюдава оборудването и може да го спре, когато изходът на модела се изпълнява без предварително одобрение.
• Клиентски AI продукт: чатбот или агент, който общува пряко с външни потребители, трябва да разкрива, че те взаимодействат с AI, в началото на разговора или в интерфейса. Продуктовият екип отговаря за това съобщение и за действията на агента чрез свързани инструменти.

Организациите, които свързват Claude с оборудване или с решения за отделни хора, трябва да установят къде моделът може да задейства действие без одобрение и къде препоръката му достига до човек без квалифициран преглед. За физическите устройства условията на Anthropic действат наред с приложимите изисквания за безопасност на машини, превозни средства и медицински изделия.

Прочетете също:

• Лимитът за OpenAI API спира разхода — и може да спре продукцията
• SPF, DKIM и DMARC: една грешна политика може да спре истинската поща
• DNS през HTTPS във Firefox: максималната защита може да счупи локални адреси