扩散智能正式发布扩散语言模型Clover-35B-A3B-Preview。该模型总参数达350亿,激活参数约30亿,打破了自回归模型垄断,在网页交互与代码生成等复杂AI智能体任务中,速度比竞品快一倍以上。
传统印象中主要用于图像和视频生成的扩散模型,正在强势跨界进入大语言模型的主战场。
扩散智能团队正式发布了新一代扩散语言模型 Clover-35B-A3B-Preview。这款模型支持编写代码、操作网页、调用外部工具等 AI 智能体(Agent)核心任务,并在执行速度与并行生成效率上展现出显著优势。
在生成交互页面等轻量开发场景中,Clover-35B 仅需思考约 1 秒,便能在 4 到 5 秒内输出一个完整可交互的太阳系模拟器页面,整理结构化简历代码也仅需十余秒。

在面对多步骤、长链路的复杂任务时,Clover 表现同样亮眼。在网页智能体评测基准 WindTunnel 的 49 项任务测试中(每项尝试 3 次),Clover 的中位执行时间仅为 1.52 秒,对比 Jev 与 Mercury 2.5 组合的 3.21 秒缩短了一半以上,尝试成功率则以 98.6% 领先于后者的 95.9%,执行效率显著优于 Gemini 等自回归架构模型。

Clover-35B-A3B-Preview 采用了混合专家(MoE)架构,模型总参数量为 350 亿,每个 Token 激活约 30 亿参数,并原生支持思考模式。这是团队继 Dream 7B 之后,将扩散语言模型推向更大规模的关键进展。
与传统大语言模型依赖逐个预测 Token 的自回归(Autoregressive)机制不同,扩散语言模型允许多个位置同时更新,经由多轮去噪迭代输出内容。针对长上下文带来的推理计算开销与连续任务稳定性问题,Clover 采用了独特的“块扩散”(Block Diffusion)设计。

在块扩散框架下,文本被切分为不同数据块,块与块之间按序推进,块内多个 Token 则并行生成、双向参考。针对工具调用和多步任务中的长记忆衰减问题,团队重构了门控 Delta 网络(GDN),将已生成的上下文压缩为持续更新的全局状态,供后续计算高效检索,同时配合可学习的块尺寸校准,解决了长程依赖中信息被稀释的痛点。
这使得 Clover 攻克了扩散语言模型以往在调用工具、环境反馈解析中容易出错或陷入死循环的短板。
在工具调用基准 τ³ Overall 和 BFCL-v4 中,Clover 分别取得 65.3 与 67.9 的成绩;在考察软件工程代码修复的 SWE-bench Verified 上得分达 73.6,终端任务基准 Terminal-Bench 2.1 得分为 51.7,证明了其在工程实践中的可用性。

扩散智能由香港大学孔令鹏教授及团队联合创立,其研发路径可追溯至 2022 年发布的文本序列扩散研究 DiffuSeq。从最初探索离散自然语言去噪,到 2025 年推出 70 亿参数的 Dream 7B,再到如今的 350 亿参数 Clover,扩散机制在逻辑推理和复杂任务规划上的潜能不断释放。
目前,学术界与工业界对非自回归及扩散生成路线的关注度正持续攀升。扩散智能表示,Clover 的后续演进将覆盖多模态理解与动作生成能力,并积极推进模型量化、推理部署优化与端侧硬件的软硬件协同适配。
免费获取企业 AI 成熟度诊断报告,发现转型机会
关注公众号

扫码关注,获取最新 AI 资讯
3 步完成企业诊断,获取专属转型建议
已有 200+ 企业完成诊断