「DeepSeek 刚刚为 V4 Flash 和 Pro 发布了 DSpark,一种新的推测解码方法,吞吐量提升51%到400%。」
12.1万浏览,1741 个赞,908 个书签。数据跑得比论文还快。

「DeepSeek 刚刚为 V4 Flash 和 Pro 发布了 DSpark,一种新的推测解码方法,吞吐量提升51%到400%。」
12.1万浏览,1741个赞,908个书签。数据跑得比论文还快。

评论区迅速变成技术狂欢。有人惊呼 "The Whale strikes again",有人连夜翻论文第11页找对比数据,也有人把它放进开源与闭源节奏的讨论里。
但真正值得拆开看的是DeepSeek 这次到底拿出了什么。
答案是:一个叫DSpark的推测解码框架,加上配套的全栈开源工具链DeepSpec。它能让 DeepSeek-V4 Flash 的用户生成速度提升最高85%,Pro 版提升78%。在高并发场景下,名义吞吐优势飙到了400%到661%——几乎是在同一批 GPU 上凭空多榨出了几倍的产出。

而且这不是一篇论文画饼。代码已在 GitHub 上公开,权重挂在 Hugging Face,论文 PDF 就躺在仓库根目录里。DSpark 已经在 DeepSeek 的真实线上流量中跑了,用户已经在不知不觉中用上了。
很多人第一反应:"DeepSeek 又发新模型了?"
Hugging Face 的模型卡直接把这层误解捅破了:

「注意:DeepSeek-V4-Pro-DSpark 不是一个新模型。它是同一个检查点,附加了一个额外的推测解码模块。」

你手上已经在用的 V4 Flash 或 Pro,加上 DSpark 这个"加速模块"就能原地跑得更快。模型本身没变,输出质量完全一致——数学上严格保证无损。但推理方式变了,同一个 GPU 现在能多吐出51%到400%的token。
这比发新模型实用得多。新模型意味着重新部署、重新评估、重新踩坑。DSpark 是一个"原地升级"方案:后端支持了,用户感知到的就是同样的模型突然快了一大截。不折腾。
要理解 DSpark 做对了什么,得先知道 LLM 生成文字的基本困境。
现在的模型走的是自回归生成(Autoregressive Generation):一个字一个字往外蹦。每生成一个 token,模型都要把之前写过的所有内容重新看一遍,做一次完整的前向计算,才能决定下一个 token。就像一个人每写一个字,必须先通读整篇文章再落笔——慢得令人发指。
推测解码(Speculative Decoding)的思路直接翻了个面:找一个轻量的"快速草稿员"(draft model)先连续写出 3 到 8 个候选 token,然后让"大作家"(目标大模型)一次性批量检查这些候选。通过的直接用,被拒的就从出错处重来。大模型一次"思考"能确认好几个 token,GPU 空转的时间大幅减少。
这背后的核心指标是平均接受长度(average acceptance length):一次大模型前向计算能确认多少个 draft token。数字越高,加速越猛。
问题在草稿模型怎么设计。传统两条路线各有利弊:
1.并行方法
(如 DFlash):一次生成多个 token,吞吐高,但靠后的 token 经常不准,接受率随位置快速塌方。
2.自回归方法
(如 Eagle3):串行生成,接受率稳,但草稿生成本身就慢,抵消了一部分加速。
DeepSeek 从 V2/V3 开始就在训练中引入了多 token 预测(MTP),模型天生能一次预测多个未来 token,不需要额外草稿模型。这已经比大多数方案省事。但在高并发生产环境里,MTP-1 还有进一步榨取的空间——DSpark 就是冲着这个来的。
DSpark 的核心贡献可以拆成两件事,分别打两个生产环境里的真实痛点。
第一件事:半自回归生成(Semi-Autoregressive Generation)
DSpark 没有在"并行 vs 串行"之间二选一。它的做法是把两者的优势拼在一起:保留并行草稿的高吞吐主干,同时加一个轻量的串行 Markov 头,对 block 内 token 之间的顺序依赖做细粒度建模。
并行部分管速度,串行部分管质量——尤其管住了靠后几个token 不容易崩。社区研究者 @johnseach 总结得很准:"DSpark 巧妙地结合了 DFlash 和 Eagle 方法的优势:一个重型并行头后跟一个小顺序马尔可夫头。"
效果:平均接受长度比 Eagle3 高出 26.7% 到30.9%,比 DFlash 高出 16.3% 到 18.4%。在数学、代码、对话等多类任务上稳定复现。
第二件事:置信度调度验证(Confidence-Scheduled Verification)
这是DSpark 面向生产环境做的硬核优化。
传统推测解码有个毛病:不管草稿质量如何,全量扔给大模型验证。高峰期 GPU 已经很忙了,大量尾部草稿大概率会被拒,却白白占了宝贵的 batch 位置。
DSpark 给每个 draft token 额外出一个"置信分"(confidence score),预测它被目标模型接受的概率。同时引入一个硬件感知前缀调度器,实时感知当前 GPU 吞吐和排队状态,动态决定"这次验证前 3 个还是前 6 个"。置信高的优先验,预期回报低的直接裁剪掉。
调度器还用了异步机制——决策过程不打断 CUDA graph 的连续回放,利用前两步历史预测隐藏调度延迟。DeepSeek 管这叫"兼容零开销调度(ZOS)和连续 CUDA graph replay"。
翻译成大白话:GPU 的每一分算力都喂给了最值得验的 token,高峰期不浪费,低负载时火力全开。
多家媒体(华尔街见闻/机器之心、36kr、第一财经)交叉引用了同一组生产验证结果:
用户生成速度提升(维持相同系统吞吐):
1.DeepSeek-V4-Flash + DSpark:60% ~ 85%
2.DeepSeek-V4-Pro + DSpark:57% ~ 78%
高并发场景下名义吞吐优势 vs MTP-1:
1.常规并发:51% ~ 52%
2.严苛高并发:406% ~ 661%
高并发下的 400%+ 增幅尤其扎眼。在用户请求密集堆积时,DSpark 的动态裁剪策略发挥到了极致——低置信草稿被果断丢弃,算力全押在高回报 token 上。
社区 benchmarker @noctus91 的评价很干脆:"The boost to local inference is absolutely massive."

另一个被反复提及的亮点是跨模型通用性。推测解码历史上有个老大难:草稿模型往往跟目标模型强绑定,换了模型家族接受率就暴跌。DSpark 在 Gemma 和 Qwen 系列上同样展现了良好泛化——这在开源社区价值巨大,意味着其他人可以用 DeepSpec 工具链给自己的模型训 draft,不用从零摸索。
和 DSpark 一起亮相的DeepSpec是全栈训练与评估代码库,MIT 许可,GitHub 上公开。
它内置了三种算法(DSpark、DFlash、Eagle3),支持 Qwen3 和 Gemma 两个目标模型家族。从数据准备、训练到评估,一条龙:
1.数据准备
:下载 prompts,用目标模型 regenerate answers,构建 target cache
2.训练
:bash scripts/train/train.sh,支持多 GPU
3.评估
:GSM8K、MATH500、AIME25、HumanEval、MBPP、LiveCodeBench、MT-Bench、Arena-Hard-v2 全覆盖
需要泼一盆冷水:DeepSpec 的默认 Qwen3-4B 配置需要约38TB的 target cache 存储,训练脚本默认单节点 8 GPU。对个人开发者来说不算轻量。但对有基础设施的团队,这比从零搭一套 speculative decoding pipeline 的门槛低了好几个数量级。

X 上的讨论热度不低,但质量也很高。几个方向值得关注:
与 DFlash 的具体差异。@lily_gpupoor 直接追问,Daniel Han 回复指向论文第 11 页——数据确实有,但需要细读。
Tail latency 的实际感知。@sebuzdugan 指出峰值吞吐提升不等于用户体感延迟降低,聊天场景下尾延迟可能比平均吞吐更影响体验。这是一个合理的工程审慎——DSpark 论文在极低 QPS 场景下的表现如何,还需要更多人实测验证。
Quant 版本的期待。多位用户问有没有量化友好版本——在生产环境里,量化 + 推测解码的组合拳才是性价比最优解。
跨架构迁移的稀有性。"Gemma + Qwen cross architecture transfer stands out here. Speculative decoding barely crosses model family boundaries typically." 这条评论精准踩中了 DSpark 最被低估的价值:它的 draft 设计可能抓到了更通用的语言模型生成规律,放在 DeepSeek 内部 MoE 结构之外也能起作用。
也有人把这件事放进开源与闭源的发布节奏里讨论。抛开情绪化比较,推理效率的竞赛确实是2026年最有看头的一条技术线。
回头看 DeepSeek 这一年的节奏:发 V4 模型的时候,论文、代码、checkpoint 同步上线。模型能力升级的同时,推理基础设施也跟着迭代。DSpark 不是一次孤立的"加速更新"——它是"模型能力 + 训练后优化 + 推理 infra + 开源工具链"这盘大棋中新落下的一子。
这套打法的厉害之处在于把做模型变成了做基础设施。每一步的产出都能被社区复用、迭代、衍生。训练代码开源让别人的模型也能受益,跨模型验证又进一步证明方案不依赖特定架构,反过来加固了生态引力。
对于成本敏感的开发者、初创团队和中小公司来说,这类开源 infra 优化比单纯追参数规模务实得多。51% 到 400% 的吞吐/速度提升,放在相同服务水平协议下,意味着相同 QPS 可以少用 GPU,或者相同 GPU 服务更多用户。Agent 应用、长文档生成、RAG pipeline 这些 token 消耗大户,边际成本一旦下降,商业可行性直接变。
DeepSeek 这一次没有大张旗鼓地开发布会,只是悄悄更新了GitHub和 Hugging Face。但效果比很多发布会都扎实:权重摆在那里,代码可以跑,论文可以读,生产环境已经在用。
后面要盯的是主流推理框架的集成速度和社区 fork 的活跃度。不管怎样,DSpark 已经把推测解码从"少数团队的内部分支"变成了"生产线的标配候选"。这可能是2026年对AI推理成本影响最大的工程更新之一——而 DeepSeek 又一次跑在了前面。
京公网安备11010502056287号