AI 大模型/08.25 · 09:02/5 MIN/编译自 零壹界点/32 阅读
DeepSeek 放出 DSpark：V4 推理速度暴增 400%
谁干的？怎么干的？ 但真正狠的在线上。 生产环境：从 51% 到 400% 论文第 5 章是把 DSpark 部署到 DeepSeek V4 真实服务集群后的实测数据。 在 V4-Fl
谁干的？怎么干的？
但真正狠的在线上。
生产环境：从 51% 到 400%
论文第 5 章是把 DSpark 部署到 DeepSeek V4 真实服务集群后的实测数据。
在 V4-Flash 引擎上：
中等交互要求（80 tok/s/用户）下，系统总吞吐量提升 51% 严格交互要求（120 tok/s/用户）下，MTP-1 基线已经撑不住了，DSpark 相对提升 661%——主要是基线自己掉到地板了，DSpark 勉强撑住了 在匹配吞吐量下，单用户生成速度提升 60% 到 85%
在 V4-Pro 引擎上：
中等 SLA 下吞吐量提升 52% 严格 SLA 下相对提升 406% 单用户速度提升 57% 到 78%
（原文："DSpark shifts the Pareto frontier of LLM serving outward."）
翻译成人话：以前 V4 在高并发下为了保证交互速度，只能牺牲吞吐量；现在 DSpark 把整条「速度 vs 吞吐」的边界往外推了一截。
怎么做到的？关键在那套动态调度。并发请求少的时候，调度器给每个请求分配较长的验证预算（4-6 个 token）；并发一上来，自动收紧预算——不让低把握的 token 抢 GPU。这套机制在生产环境跑通了，而且没有引入额外的调度延迟（用了异步+ZOS 集成）。
开源了什么？怎么上手？
DSpark 的训练代码、checkpoint、论文全部公开。
GitHub 仓库 DeepSpec 是一个完整的投机解码训练框架，包含三种算法：DSpark、DFlash、Eagle3。目前 1,836 star，MIT 协议。
三条路跑起来
如果你只是想用现成的加速效果：
V4 用户什么都不用做。DSpark 已经替代了 MTP-1，部署在 DeepSeek V4 的生产服务端。你感受到的"V4 好像变快了"——不是错觉。
如果你想给 Qwen/Gemma 接上 DSpark：
DeepSeek 在 HuggingFace 上发布了已训练好的 checkpoint，直接覆盖 Qwen3-4B/8B/14B 和 Gemma4-12B：
标签：AI
想了解 AI 如何助力您的企业？
免费获取企业 AI 成熟度诊断报告，发现转型机会
