DiffuSpace把Qwen3.6改成扩散模型,GB300单卡跑出680 Token/s
动察 Beating AI 快讯,香港大学教授孔令鹏创办的扩散智能(DiffuSpace)发布并开源 Clover-35B-A3B-Preview。
模型基于阿里 Qwen3.6-35B-A3B 改造,总参数 350 亿,每次推理激活约 30 亿参数。
传统大模型通常从左到右逐个生成 Token,Clover 则采用块扩散,一次生成一小段文本,再通过并行预测和反复修正完成输出。团队还改造了 Gated DeltaNet,将历史信息压缩保存,同时让当前文本块内的 Token 双向交互,以兼顾生成速度和上下文理解。
官方公布的六项 Agent 评测中,Clover 均取得所列模型的最高分。SWE-bench Verified 达到 73.6%,Terminal-Bench 2.1 达到 51.7%,超过原版 Qwen3.6-35B-A3B,以及 LLaDA2.2 Flash、Mercury 2.5 等扩散模型。不过,对比名单没有纳入 10 月 19 日发布的 Mercury 3。
速度方面,Clover 在单张 NVIDIA GB300 上,以 BF16 精度、单并发运行内部 Agent 任务,生成速度达到 680 Token/s。在 H200 上达到 515 Token/s,超过使用 DFlash2 加速的同规模 Qwen 模型(365 Token/s)。团队还将 INT4 量化版本部署到仅有 16GB 显存的 RTX 5070 Ti 上,MATH-500 测试速度达到 101.8 Token/s。
💬 引用锚点
Clover-35B采用块扩散替代传统自回归生成,一次并行输出文本块再通过反复修正完成输出,兼顾速度与上下文理解。
该模型在六项Agent基准评测中均获最高分,SWE-bench达73.6%,超越原版Qwen3.6及同规模扩散模型。
单卡GB300推理速度达680 Token/s,是DFlash2加速同规模Qwen模型的1.86倍,INT4量化版在RTX 5070 Ti上仍可跑101.8 Token/s。
常见问题
Clover-35B-A3B-Preview 是什么?▼
Clover 采用什么技术实现文本生成?▼
Clover 的 Agent 能力表现如何?▼
Clover 在 GB300 上的推理速度是多少?▼
Clover 是否支持低显存设备部署?▼
订阅最新文章
输入邮箱,第一时间获取最新动态。
💬 评论 (0)
发表评论