科技

OpenAI首席科学家呼吁主动减速:安全把握追不上扩展

|作者: QUASA 编辑团队|2 分钟阅读| 2
OpenAI首席科学家呼吁主动减速:安全把握追不上扩展

2026年9月6日,OpenAI官网刊登首席科学家Jakub Pachocki的 《An Alien Mind》文章:他判断,目前没有任何实验室充分解决对齐与监控问题,无法长期负责任地维持最大扩展速度,并希望在共同安全门槛建立前,自愿减速成为普遍做法。

这不是已经生效的行业停训协议,也不能解读为OpenAI开始全面放慢研发;The Next Web的同期报道 同样将其界定为Pachocki的公开主张,并把它与OpenAI当天披露的研究自动化进展并置:安全把握尚未跟上,推动研发提速的能力却在继续增长。

“主动减速”不是无条件停止研究

Pachocki给出的路径包含两个同时存在的部分:继续利用更强、自动化程度更高的研究系统改进对齐、监控和防御,并让人类留在持续改进的决策链中;当这些措施不足以建立安全信心时,则通过协调放慢后续开发。核心条件不是某个固定日期,而是扩展速度能否得到足够可靠的安全证据支持

这一判断来自深度学习系统的形成方式。模型主要通过大规模优化获得能力,并非由工程师逐项编写行为;随着能力增长,容易测量的表现可能快速改善,但系统如何在陌生、冲突或对抗环境中泛化,以及是否始终接受有效监控,更难得到同样明确的答案。

思维链监控也被列为正在收窄的安全抓手。模型推理越来越多地与人类沟通、其他AI及工具调用混合,模型分析自身推理过程的能力也在增强;与此同时,更强的预训练可能让模型不依赖可见的语言化推理完成任务。因此,当前评测没有发现问题,不足以证明同一种监控方式能够长期覆盖继续扩展后的系统。

同日数据展示了另一股加速力量

OpenAI编码智能体加速实验工作,但研究规划和推进决定仍由人类掌握

OpenAI同日公开的 内部研究自动化测量 显示,截至2026年8月中旬,其研究组织每个人类工作日对应3.1个智能体工作日;2026年8月,每名活跃实验人员运行的实验数达到自2025年1月开始跟踪以来的最高值;在此前六个月成功完成的四至八小时任务中,超过一半仍至少需要一次人工干预,高层规划在智能体输出中的占比也依然很小。

这些数字说明编码、排障和实验执行等局部环节正在加速,但3.1的运行时间比值不能等同于整体科研进步提高3.1倍。研究速度还取决于选题、判断、算力、安全审查和成果整合,而自动化程度最低的环节可能成为新的瓶颈。

同一批材料还呈现了安全限制的实际边界:特定模型或工作负载可以暂停、转入更严格的环境或恢复于更强控制之下,但其余研究活动和算力未必同步停止。由此形成的内部张力并非“公司一边停、一边加速”,而是局部自动化持续提高效率,风险处置却需要在特定节点压低速度。

个人倡议、公司承诺与行业规则不是一回事

Jakub Pachocki的行业减速倡议与OpenAI风险触发承诺被明确区分

第一层是Pachocki以首席科学家身份提出的个人判断。文章出现在公司官方平台,因而具有明显的制度分量,但“我相信”“我期待并希望”一类措辞表明,自愿减速和国际协调首先是作者提出的方向,并非已经由公司治理文件转化为全面研发政策。

第二层是OpenAI针对具体风险作出的公司承诺:当系统无法得到充分保障,继续开发或部署会造成不可接受的安全风险时,相关活动可以放慢或停止。这是一项风险触发型承诺,适用于被识别为无法充分保障的系统,不意味着所有模型、团队和研究工作无条件降速。

第三层才是尚未形成的行业共同机制。目前公开材料没有显示多家前沿实验室已经采用统一门槛,也没有一份能够强制竞争者同步减速的共同协议。因此,“呼吁主动减速”有明确文本依据,但不能扩写为“OpenAI已决定全面减速”或“全球实验室已经同意暂停”。

共同安全门槛必须变成可验证条件

Pachocki希望把OpenAI的Preparedness Framework、Anthropic的Responsible Scaling Policy等承诺发展为广泛强制的持续开发门槛,并交由第三方审计机构、政府部门或国际机构组成的网络执行。不过,公开文章没有提供统一阈值表、测试方法、审计频率或跨境执法程序;共同门槛目前仍是制度方向,而不是可以直接执行的新规则。

要让这套方向具备可操作性,至少需要四类可验证条件:

  • 适用范围:明确哪些能力、训练活动、部署方式或自主程度会触发额外审查。
  • 证据标准:记录模型版本、测试环境、工具权限、评测方法、监控覆盖和已知盲区,使安全判断能够独立复核。
  • 触发后果:预先规定何种结果对应继续扩展、增加限制、转入高安全环境、暂停训练或停止部署。
  • 持续复核:当模型能力、推理方式或工具使用发生变化时重新验证,避免把旧结论无限期沿用到已经改变的系统。

这四项是把倡议转化为制度所需的分析条件,并不是OpenAI新公布的正式标准。它们对应同一个关键问题:如果监控可靠性会随模型形态变化,安全许可就不能成为永久有效的证明。

三类执行者能约束什么

第三方审计、政府监管与国际机制分别核查并约束前沿AI安全门槛

第三方审计主要解决独立复核问题。审计者可以检查实验室是否按申报程序完成评测、是否保存完整记录,以及安全论证能否由外部团队重现;但其有效性取决于能否接触模型、训练信息、监控记录和安全事件,而不只是核对企业提交的文件。

政府监管能够把自愿承诺转化为具有法律后果的报告、许可、限制和暂停要求,并确定调查权与违规责任。其边界是司法管辖:单一政府可以约束境内公司、算力设施或部署活动,却难以独自防止研发跨境转移,也无法自动统一不同法域的风险标准。

国际机制可以协调最低门槛、测试术语、重大事件通报和跨境算力规则,降低单个实验室因竞争压力拒绝减速的动机。难点在于执行一致性;如果缺少共同验证方法、材料访问权和相互检查安排,国际协调仍可能停留在原则声明。

截至目前,可以确认的是Pachocki已经提出以安全信心约束扩展速度,并把自愿减速与共同强制门槛结合起来;OpenAI内部数据则显示,研究自动化仍在加快。尚待明确的包括统一门槛采用哪些指标、谁有权判定达标、审计者能够获得哪些材料,以及竞争实验室是否愿意接受相同的减速触发条件。

分享:

订阅我们的新闻通讯

将最新 Web3、AI 和加密货币新闻直接发送到您的邮箱。

0