郭震 AI公众号:郭震AI

实时 AI 消息

扩散智能发布350亿参数Clover,扩散语言模型首次跑通Agent连续任务

扩散智能发布扩散语言模型Clover-35B-A3B-Preview,总参数350亿、每Token激活约30亿,支持思考模式,可直接写代码、生成网页并连续调用工具。在网页Agent评测WindTunnel的49个任务上,它的中位执行时间1.52秒,不到Jev与Mercury 2.5组合3.21秒的一半。

发布时间

10月29日,扩散智能发布扩散语言模型Clover-35B-A3B-Preview。据量子位报道,这个总参数350亿、每Token激活约30亿参数的MoE模型支持思考模式,实际用法与常见大语言模型接近:写代码、操作网页、调用工具、生成HTML都能做,只是底层生成方式换成了扩散。

速度是最直观的差异。在网页Agent评测WindTunnel的49个任务中,每个任务尝试3次,Clover的中位执行时间为1.52秒,Jev加Mercury 2.5的组合为3.21秒,前者用时少一半多;任务成功率分别为98.6%和95.9%。在演示中,它思考约1秒、再花4到5秒就能生成一个可交互的太阳系模拟器,把一堆简历整理成LaTeX代码也只要十几秒。

更值得关注的是连续任务能力。Clover可以通过WebMCP依次处理开票、课程报名、金额汇总、活动状态查询、客户信息与发票信息查询六项任务;在购物场景里,它能按款式、颜色和尺码找到商品、加入购物车、填写访客信息并走完测试结账流程。过去扩散语言模型做Agent时常出现工具调用格式出错、在同一步骤反复尝试而不根据返回结果调整动作的问题,这次官方演示重点展示的正是调用工具、读取反馈、继续执行的闭环。

基准成绩覆盖了代码与工具使用两条线:工具调用相关的τ³ Overall为65.3、BFCL-v4为67.9;考察真实代码仓库问题解决的SWE-bench Verified为73.6,终端任务Terminal-Bench 2.1为51.7。

技术路线上,Clover延续了扩散语言模型的并行生成思路。自回归模型按前文逐个预测下一个Token,扩散模型则允许多个位置同时更新、经过几轮去噪逐步定稿。Clover采用块扩散:内容被分成若干块依次推进,块内多个位置并行更新并相互参考。为解决上下文变长后历史信息读取的问题,团队围绕块扩散重构了门控Delta网络,把已生成上下文压缩进持续更新的状态,当前块通过双向注意力互相参考,并把历史记忆的读出作为独立信息单元参与注意力计算,再用可学习的块大小校准减少信息稀释。

这不是一条新路线,而是一次规模跃迁。团队2022年提出DiffuSeq研究序列到序列的文本生成,2025年4月把扩散模型推进到70亿参数的Dream 7B,这次一步扩到350亿总参数。扩散智能由香港大学孔令鹏教授与博士生龚珊三、叶佳成联合创立,路线从“怎么生成文字”逐步走到“怎么把复杂任务做对、做快”。

接下来,团队计划推出多模态版本,把扩散语言模型与多模态理解、动作生成结合,并通过推理优化、量化和部署适配推进端侧应用,与Acrab的合作则面向端侧系统适配与软硬件协同验证。更大规模模型与长程任务稳定性也是明确方向。

对行业来说,Clover提供了一个新样本:扩散模型不再只是生图生视频的工具,而可能在延迟敏感的Agent场景里与自回归模型正面竞争。真正的考验是第三方复现与实际部署表现,而不只是一次演示。

为什么重要

如果扩散语言模型的并行生成优势能在真实Agent负载中稳定复现,延迟和推理成本会成为新的竞争维度,而不只是模型规模。国内团队把这条路线推进到350亿参数并直接对标Agent任务,也让开源与端侧部署多了一种技术选择。

微博邮件

Diffuspace扩散语言模型Agent
返回实时消息

附近消息

全部