DeepSeek 联合北京大学发布了 DSpark 投机解码框架，可将大模型推理速度提升 60%至 85%且不损失输出质量。相关模型已在 Hugging Face 开源。 这种开放研究的方式与美国主要 AI 实验室的秘密实践形成对比，凸显了 DeepSeek 对透明度和创新的承诺。它能让广泛的应用获得更快、更便宜的 LLM 推理。 DSpark 引入了半自回归候选生成和置信度调度验证，动态优化投机长度和接受率。该框架已部署于 DeepSeek-V4-Flash 和 V4-Pro 预览版，完整 DeepSpec 代码库已在 GitHub 开源。
背景
传统的大语言模型推理逐个 token 串行生成，速度慢且限制了吞吐量。投机解码通过使用快速草稿模型一次预测多个 token，然后由目标模型在单次前向传播中验证，从而加速推理。DSpark 在此基础上改进：用并行主干网络一次性生成所有候选 token，再由轻量顺序模块逐 token 注入前缀依赖，并结合基于置信度的调度器，优先分配计算给高存活概率的 token。
参考链接
社区讨论
社区广泛赞赏 DeepSeek 的开放性和实际创新，用户注意到模型已在 Hugging Face 上线且性能出色。有人对将其集成到 DwarfStar 等本地推理工具表示期待。