Claude新规11月生效：高风险决策不能只让AI拍板

Anthropic于2026年10月8日公布Claude使用政策更新，新版定于2026年11月12日生效。对可能影响个人健康、财务、就业等权益的建议，合格人员必须在交付或执行前实质复核，并有权改变结果；若Claude直接控制可能伤人的设备，还须保留人工停止和断连后的安全状态。

政策适用于使用Claude API和开发平台的团队，也涵盖集成Claude的产品及其终端用户。对高风险建议的人审和告知要求此前已经存在，此次修订将适用范围与审核权写得更明确；针对自主物理动作的控制要求则是新增重点。

高风险建议：审核者必须有权改变结果

新版Usage Policy的高风险条款规定，合格人员须在个人收到可能依赖的建议之前，或建议被用于执行决定之前，进行实质审核，并有权修改建议。审核者需要具备评估该领域输出的培训或经验；相关活动依法要求执照时，还须持有执照。最终交付内容或决定的准确性与适当性由该人员负责。

条款列出的医疗情形包括诊断，以及建议开始、停止或调整治疗与用药；金融情形包括针对个人推荐买卖或配置具体投资产品。就业方面，筛选、排序、推进或拒绝求职者都在范围内。贷款额度与利率、保险理赔、住房申请、教育录取、医疗服务准入和公共福利资格，也属于明确列出的决定。判断关键是Claude输出如何影响具体个人，而非产品被归在哪个行业。

因此，让工作人员浏览输出、却不给其质疑或修改结果的权限，无法满足实质复核要求。收到建议的人，以及受相关决定影响的人，还必须获知AI参与了建议的生成；告知时无须指明Anthropic、Claude或模型名称。直接与外部用户交流的聊天产品另有告知要求：至少在会话开始时或产品界面说明对方正在与AI互动。

条款也划出了边界。解释法律、疾病治疗或投资概念，只要没有把信息应用于个人情况，属于一般信息；未形成最终高风险建议的内部起草、研究和摘要，同样被列为排除情形。在当地法律允许且决定对个人完全有利时，支付保险索赔、批准医生已开具护理的保障，或授予公共福利等特定决定，可免于事前人审。部分批准、减少金额或附加条件不算完全有利，其他告知义务仍可能适用。

自主物理操作：停止能力不能交给模型

物理安全条款针对的是Claude输出未经人工批准，便由硬件转化为可能伤人的动作。ANTM对新条款的逐项解读归纳了控制要点：合格人员能够观察设备并随时停止；人员干预或与Anthropic服务断连时，设备能够停止或维持安全状态；速度、力度等安全限值由设备或独立控制器执行，不能只依赖模型输出。

政策列出的场景包括在可能有人活动的空间中操控车辆或移动机器人，驱动可能夹伤人的机械部件，操作足以致伤的高温、高压或高压电设备，以及对人体给药或施加能量。可能使人受困的门禁与安全系统、故障可能伤及工人或公众的工业过程，也在范围内。设备若只监测和报告，或由合格人员先审核指令再执行，则属于条款列出的排除情形。

对接入团队而言，人工停止必须能作用于实际设备，断连后的状态也必须由设备控制链路保证。提示词即使要求Claude谨慎操作，也不能充当急停装置或独立运行限值。政策同时指出，这些要求与适用的车辆、航空、医疗器械、机械及工作场所安全规定并行。

禁止用途：增加审核者也不能放行

高风险建议可以在满足控制要求后使用，但禁止用途不因加入人工审核而变为许可用途。新版政策禁止用Claude开发或操作武器运行软件及相关部件，也禁止让它在执法或刑事司法流程中决定或建议调查、逮捕、起诉等对象。未经同意追踪个人，以及建设或改进用于此类监控的工具，同样被禁止。

针对欺骗性活动的修订将假账号、假冒媒体、隐瞒传播资助者及制造貌似独立的内容网络集中写入同一章节，覆盖政治和商业传播。此前分散在其他章节的相关限制得到整合；选举条款则移除了对个性化投票和竞选定向传播的一概禁止，但欺骗选民及滥用个人数据仍受限制。具备浏览器、工具调用或外部系统权限的代理产品，也须让实际执行的动作遵守政策。

现有系统需要核对什么

上一版Usage Policy已经要求相关领域的合格专业人员在高风险建议传播或决定最终确定前审核，并要求披露AI参与。此次文本将审核者的修改权、覆盖的建议及排除情形写得更具体。把人审理解为新出现的要求，会掩盖现有流程原本就需要承担的责任。

对已有产品，首先要看Claude输出是否针对具体个人形成建议或推动决定，再看审核者是否既有专业能力，也有实际权限在交付或执行前修改结果。告知应到达收到建议或受到决定影响的人；只在内部界面标注AI参与，未必能完成这一环节。若产品还能直接驱动设备，则须另行确认人员能否随时停止动作，以及断连时设备和独立限值如何发挥作用。

这些判断应落在产品真实的交付与执行链路上：求职者排序是否直接进入筛选结果，个人化医疗建议是否直接送达用户，设备指令是否无需人工批准便会运行。新版政策生效后，承担审核责任的人需要真正掌握决定权；连接Claude的高风险设备则需要在连接中断时仍能保持安全。

相关阅读：

• Proofpoint让AI调查安全告警：能提建议，不能自行封号
• Anthropic暂停高风险训练：约150名工程师转向模型安全
• 美国联邦招聘拥抱AI：人工复核并不自动降低风险