Agent Lightning仅约3500行:旧智能体不用重写就能强化学习

|作者: QUASA 编辑团队|2 分钟阅读| 1
Agent Lightning仅约3500行:旧智能体不用重写就能强化学习

2026年10月7日,微软亚洲研究院在Agent Lightning v1.0技术解读中介绍了初版约3500行的智能体强化学习框架,并公布一项使用约6000条训练样本的编程智能体实验:Qwen3.5-9B在SWE-bench Verified上的Pass@1从41.8%升至56.4%,提高14.6个百分点。框架把训练接入点放在模型代理层,让现有智能体继续使用自己的工具、上下文管理和控制流程。

Agent Lightning项目仓库记载,v1.0已于2026年8月开源,采用MIT许可证;仓库所说的“ZERO changes”指现有Harness代码可保持原样。10月发布的是对架构及可复现实验的技术解读,接入训练仍需要配置模型服务、任务运行环境和奖励评估。

模型代理如何连接现有Harness

接入时,智能体原本发往模型的请求改为经过Agent Lightning的API Gateway。这个网关提供兼容OpenAI接口的模型代理,把提示词、响应及训练所需的信息关联到相应的任务执行记录。Harness仍决定何时调用工具、如何整理上下文、何时结束任务;强化学习框架无需接管这套执行循环。

一次任务执行中,Rollout Controller负责启动和管理智能体,网关记录经过代理的模型交互,基于verl的Customized Trainer再收集并整理样本以更新模型。这种分工解释了为何保留原有Harness仍能训练:模型调用成为训练系统观察智能体行为的入口,而任务中的工具使用和环境变化仍由Harness处理。

“不用重写”有明确的接口前提。现有智能体需要能够把模型端点指向代理,并用兼容的请求方式与模型通信;采用其他协议的工作流可能仍需适配。即使请求顺利经过代理,训练也离不开可更新的模型、可重复执行的任务,以及能判断任务结果的奖励信号。

本地运行与Kubernetes承担不同规模的任务

Rollout Controller既可将智能体作为本地进程运行,也可把它调度为Kubernetes Job。因此,Kubernetes是框架支持的批量任务运行方式,并非所有试运行都必须先建集群。规模扩大后,多个智能体并发执行会消耗CPU、内存和计算资源;容器化任务环境、模型推理与训练资源也要随之安排。

网关和训练器之间还有资源调度问题。不同任务的执行时间并不一致,同步训练会等待较慢的任务;框架提供的同机异步训练方式让任务执行与模型更新共用GPU,在收集到足够的任务记录后暂停接收新请求,待进行中的请求结束再更新模型。Harness不需要为这一切换改写自身流程,但训练吞吐量仍受任务时长和可用算力影响。

代理能记录模型请求,却看不到Harness在两次请求之间做的全部事情。上下文压缩、子智能体调用或消息重组都可能改变下一次请求的内容,导致同一次任务执行被拆成多条训练样本。训练器因此需要处理再次分词、样本合并、优势值计算与损失归一化,避免样本拆分方式改变不同任务在模型更新中的权重。

代码行数与训练样本各有统计边界

SXZ的独立技术分析按同一口径统计,v1.0.0核心包为3511行,后续v1.0.2增至4078行;分析还追溯了SWE-smith任务的筛选过程,说明约6000条是清洗和试跑后进入训练集的任务规模,不能等同于数据准备、试跑、模型推理及训练的全部计算量。这一行数口径也不包含另行安装的verl和vLLM等组件。

编程任务进入训练集之前,需要排除问题描述缺失、分支不可用或测试负担过重的记录,再用基础模型试跑候选任务并筛选难度。最后留下的训练任务只是流水线的一部分;构建可运行的仓库环境、执行测试和收集结果同样需要资源。对其他类型的智能体,任务能否重复执行、评分能否稳定反映目标行为,也会改变所需的准备工作。

编程智能体还可能通过绕过任务目标的方式取得奖励,例如利用参考答案或改动测试。公开的训练流程包含数据清洗、任务环境构建和防止奖励投机的措施。若把训练样本数直接当作复现实验的成本估算,就会漏掉这些影响结果可信度的环节。

Pass@1增幅属于整套编程实验

已公布的增幅来自SWE-smith任务准备、mini-SWE-agent Harness、Qwen3.5-9B模型与Agent Lightning训练流程的组合,评价指标是SWE-bench Verified上的Pass@1。代理层提供连接方式,基准成绩则反映这套具体配置的结果;单独替换现有智能体的模型端点,无法据此推算同样的提升。

迁移到其他工作流时,关键变量会变成任务分布和奖励方式。代码修复任务可以在仓库环境中运行测试;检索或内部工具任务需要各自可执行的输入、环境和评分规则。即便沿用相同模型,Harness提供的工具、上下文组织方式以及任务是否能稳定复现,都会改变训练样本和最终表现。

现有公开结果给出了可复现的编程任务流程,但尚未界定不同生产工作流中的收益范围,也没有给出多次独立训练的成绩波动。对准备沿用旧Harness的开发团队,最直接的工程后果是接入工作可以集中在模型调用处,而性能判断仍须落在自己能够运行和评分的任务上。

相关阅读:

分享:

订阅我们的新闻通讯

将最新 Web3、AI 和加密货币新闻直接发送到您的邮箱。

0