AI 大模型/08.25 · 09:02/5 MIN/编译自零壹界点/5 阅读

DeepSeek 放出 DSpark：V4 推理速度暴增 400%

谁干的？怎么干的？但真正狠的在线上。生产环境：从 51% 到 400% 论文第 5 章是把 DSpark 部署到 DeepSeek V4 真实服务集群后的实测数据。在 V4-Fl

谁干的？怎么干的？

但真正狠的在线上。

生产环境：从 51% 到 400%

论文第 5 章是把 DSpark 部署到 DeepSeek V4 真实服务集群后的实测数据。

在 V4-Flash 引擎上：

中等交互要求（80 tok/s/用户）下，系统总吞吐量提升 51%
严格交互要求（120 tok/s/用户）下，MTP-1 基线已经撑不住了，DSpark 相对提升 661%——主要是基线自己掉到地板了，DSpark 勉强撑住了
在匹配吞吐量下，单用户生成速度提升 60% 到 85%

在 V4-Pro 引擎上：

中等 SLA 下吞吐量提升 52%
严格 SLA 下相对提升 406%
单用户速度提升 57% 到 78%

（原文："DSpark shifts the Pareto frontier of LLM serving outward."）

翻译成人话：以前 V4 在高并发下为了保证交互速度，只能牺牲吞吐量；现在 DSpark 把整条「速度 vs 吞吐」的边界往外推了一截。

怎么做到的？关键在那套动态调度。并发请求少的时候，调度器给每个请求分配较长的验证预算（4-6 个 token）；并发一上来，自动收紧预算——不让低把握的 token 抢 GPU。这套机制在生产环境跑通了，而且没有引入额外的调度延迟（用了异步+ZOS 集成）。

开源了什么？怎么上手？

DSpark 的训练代码、checkpoint、论文全部公开。

GitHub 仓库 DeepSpec 是一个完整的投机解码训练框架，包含三种算法：DSpark、DFlash、Eagle3。目前 1,836 star，MIT 协议。

三条路跑起来

如果你只是想用现成的加速效果：

V4 用户什么都不用做。DSpark 已经替代了 MTP-1，部署在 DeepSeek V4 的生产服务端。你感受到的"V4 好像变快了"——不是错觉。

如果你想给 Qwen/Gemma 接上 DSpark：

DeepSeek 在 HuggingFace 上发布了已训练好的 checkpoint，直接覆盖 Qwen3-4B/8B/14B 和 Gemma4-12B：

标签：AI

想了解 AI 如何助力您的企业？

免费获取企业 AI 成熟度诊断报告，发现转型机会

置顶文章

Agent 不是替你干活，是给你派活

Agent 不是替你干活，是给你派活

别被机械臂骗了：Anthropic 押的是硬件驱动标准，不是「Claude 接管物理世界」

别被机械臂骗了：Anthropic 押的是硬件驱动标准，不是「Claude 接管物理世界」

deepseek-ai/dspark_qwen3_4b_block7

# 1. 安装依赖
python -m pip install -r requirements.txt

# 2. 准备数据（下载 + 用目标模型重新生成答案）
# 详见 scripts/data/README.md
# 注意：默认 Qwen3-4B 设置下缓存约 38TB

# 3. 训练
bash scripts/train/train.sh
# 通过 config_path 选择算法和模型，例如：
# config/dspark/dspark_qwen3_4b.py

# 4. 评估
bash scripts/eval/eval.sh
# 设置 target_name_or_path 和 draft_name_or_path