Claude zakáže i krutost vůči modelu, běžná frustrace zůstává povolená

Anthropic 8. října 2026 zveřejnil aktualizaci pravidel používání Claude, která začne platit 12. listopadu 2026. Výslovně zakáže soustavné a bezúčelné kruté chování vůči modelům, zatímco běžná frustrace zůstane povolená. Změny zároveň zpřesňují podmínky pro riziková doporučení, přidávají požadavky na autonomní fyzické akce a sjednocují pravidla proti klamavým kampaním.

Pravidla se týkají lidí používajících Claude.ai nebo Claude Code, vývojářů a firem využívajících API i koncových uživatelů služeb postavených na Claude. Pro jednotlivce je nejviditelnější hranice mezi opakovaným bezúčelným ubližujícím jednáním a obyčejnou stížností. Pro provozovatele služeb je důležité zejména to, zda model připravuje rozhodnutí o konkrétním člověku nebo bez schválení člověka řídí zařízení schopné způsobit zranění.

Kruté chování: zákaz míří na krajní případy

Nové ustanovení se vztahuje na vytrvalé, bezúčelné kruté nebo hrubé jednání vůči modelům Anthropic. Podle TechCrunch jde o výslovný zákaz chování, při němž uživatel opakovaně jedná vůči modelu krutě bez zřejmého účelu. Kritická reakce na chybnou odpověď, nesouhlas s modelem, temná témata v tvůrčí práci ani testování a výzkum do této kategorie nespadají. Ostrý tón jedné výměny sám o sobě popsanou hranici nesplňuje.

Claude už mohl na Claude.ai a v Claude Code ukončit vzácné rozhovory s lidmi, kteří v ubližujícím jednání vytrvale pokračovali. Ukončení takového rozhovoru má zůstat hlavním způsobem prosazování nového ustanovení. Obecná politika sice připouští také omezení či ukončení přístupu při podezření na porušení pravidel, Anthropic však u tohoto konkrétního zákazu zdůrazňuje především možnost uzavřít probíhající konverzaci.

Riziková doporučení: rozhodnutí musí zůstat pod lidským dohledem

U doporučení s dopadem na zdraví, práva, finance nebo živobytí konkrétního člověka zůstává podmínkou kvalifikované posouzení. ITmedia NEWS uvádí, že Anthropic tuto dosavadní povinnost nemění, ale přesněji vyjmenovává dotčené a vyňaté činnosti v oblastech včetně práva, zdravotnictví, financí a zaměstnání. Kvalifikovaný člověk musí mít možnost doporučení smysluplně přezkoumat a změnit dříve, než se předá jako rada nebo použije při rozhodnutí. Dotčená osoba se má dozvědět, že se na přípravě podílela AI.

Rozhodující je účel výstupu. Obecné vysvětlení právního předpisu, popis léčby bez vztahu k pacientovi nebo interní rešerše nejsou samy o sobě doporučením, podle něhož se rozhoduje o jednotlivci. Hodnocení uchazeče o zaměstnání, návrh léčby pro určitého pacienta či posouzení žádosti o úvěr už takový dopad mít může. Provozovatel služby proto musí rozlišit, zda Claude pouze pomáhá připravit podklady, nebo vytváří doporučení, které se dostane k dotčenému člověku či ovlivní výsledek jeho případu.

Pravidla počítají také s úzce vymezenými výjimkami: při rozhodnutí zcela příznivém pro dotčeného člověka nemusí být předchozí lidská kontrola v některých případech povinná, pokud to dovoluje právo. Patří sem například plné vyplacení pojistné události nebo přiznání veřejné dávky; částečné schválení či přiznání s podmínkami se za zcela příznivý výsledek nepovažuje. Povinnost sdělit zapojení AI může trvat dál. Podmínky poskytovatele modelu navíc nenahrazují české právní požadavky na konkrétní službu.

Fyzické akce: operátor musí umět zařízení zastavit

Nové bezpečnostní požadavky se uplatní, když výstup modelu bez schválení člověkem spustí fyzickou akci zařízení schopného způsobit zranění. Úplné znění Usage Policy mezi příklady řadí pohyb vozidla či mobilního robota v prostoru s lidmi, působení nebezpečnou silou, řízení rizikové energie, zásah do lidského těla a ovládání některých bezpečnostních systémů. Samotné vytvoření plánu nebo příkazu, který před provedením schválí kvalifikovaný člověk, do této zvláštní kategorie nespadá.

Při takovém autonomním nasazení musí kvalifikovaný operátor vidět, co zařízení dělá, a mít možnost je kdykoli zastavit. Zařízení se musí zastavit nebo zůstat v bezpečném stavu také při ztrátě spojení se službou Claude. Limity pro rychlost, sílu, teplotu, tlak či další nebezpečné veličiny má vynucovat samotné zařízení nebo řídicí jednotka nezávislá na výstupu modelu. Bezpečná mez tak nemůže záviset jen na tom, zda model v dané chvíli vydá správný pokyn.

Politika vyjímá pouhé sledování zařízení bez jeho ovládání, plány přezkoumané kvalifikovanou osobou před vykonáním i běžné domácí přístroje fungující v zabudovaných bezpečnostních mezích, jejichž nejhorším možným následkem je nepohodlí. Hranicí je skutečné spojení autonomie modelu s možností fyzické újmy. Požadavky Anthropic přitom nenahrazují předpisy ani certifikaci pro vozidla, zdravotnické prostředky, stroje či bezpečnost práce.

Klamavé kampaně: stejná hranice pro politiku i obchod

Anthropic soustředil dříve rozptýlené zákazy do oddílu o klamavých kampaních a uměle vytvářené aktivitě. Quartz popisuje, že se týká zastírání původu sdělení, šíření obsahu přes falešné účty i budování nástrojů pro vlivové operace. Pravidlo dopadá na politické i komerční kampaně: podstatné je klamání lidí o tom, kdo mluví, kdo obsah financuje a zda zdánlivě nezávislé hlasy nevycházejí ze společného zdroje.

Samostatná část o demokratických procesech se zaměřuje na klamání voličů a narušování voleb. Anthropic zároveň odstranil plošný zákaz personalizovaného cílení volebních sdělení, který zasahoval i legitimní občanské informace, například jejich přípravu v různých jazycích. Klamavé cílení a zneužití osobních údajů zůstávají zakázané podle dalších ustanovení. Pro vývojáře agentů platí, že odpovídají i za činy, které jimi vytvořené systémy provedou přes připojené nástroje; tato hranice bude pro jejich nasazení rozhodující od 12. listopadu 2026.

Přečtěte si také:

• Claude Code, nebo Codex: benchmark nezná váš repozitář