梁文锋论文称DeepSeek首轮融资后生成速度提升85%
DeepSeek顺利完成500亿元融资后,迅速推进开源新局面。今天,它正式公布了一套工程化解决方案,核心目标是让现有大模型运行得更快、更高效。 此次开源内容包含两款模型:DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark,同时开放了推测解码框架DSpark
DeepSeek顺利完成500亿元融资后,迅速推进开源新局面。今天,它正式公布了一套工程化解决方案,核心目标是让现有大模型运行得更快、更高效。
此次开源内容包含两款模型:DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark,同时开放了推测解码框架DSpark,以及对应的训练框架DeepSpec。

▲DeepSeek-V4-Pro-DSpark开源上新页面截图
与这套框架同步发布的,还有一篇由梁文锋署名、联合北京大学完成的论文《DSpark:基于半自回归生成的置信度调度推测解码》。论文指出,当DSpark被部署到DeepSeek-V4的线上生产系统、直接处理真实用户流量时,它显著减少了因无效校验所导致的算力浪费。相比成熟的基线方案MTP-1,在保持整体吞吐率不变的前提下,DSpark将单用户的生成速度提升了60%到85%。更关键的是,在严格的交互时延约束下,它避免了吞吐率的大幅下降,实现了此前无法企及的性能档位,从而推高了整套服务系统的帕累托最优边界。

▲DSpark论文截图
从Hugging Face上模型卡的信息来看,DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark并非全新的模型版本迭代,而是在原有版本基础之上集成了一个推测解码模块,核心目的就是加速推理过程、降低运行成本。
推测解码这个概念,说起来并不复杂。简单来说,它是一种无损的大模型推理加速技术,核心流程只有两步:先打草稿,再进行验证。通过将草稿生成与目标模型的校验分离开来,从而提升整体的推理效率。目前主流的并行草稿器,虽然能够一次前向运算生成超长token序列,但token之间缺乏依赖关系,导致草稿后续内容的通过率会快速下降。更棘手的是,如果对整段长候选序列不加区分地进行校验,宝贵的批次算力很容易浪费在那些被驳回的token上,进而使高并发场景下的整体吞吐率大打折扣。
DeepSeek提出的DSpark框架,将高吞吐的并行生成与自适应、感知负载的校验机制紧密结合在一起。为了保证草稿质量,它采用了半自回归架构:把并行主干网络和轻量串行模块结合起来,在模块内部建立起token之间的依赖关系,从而有效缓解后续内容通过率不断衰减的问题。

▲DSpark架构与解码流程
为了进一步优化系统的运行效率,DSpark还引入了一个置信度调度校验机制。该机制会根据预估的前缀通过概率以及引擎的吞吐特性,为每一条请求动态调整校验长度。在多项离线基准测试中,无论是对比当前最优的自回归草稿器还是并行草稿器,DSpark都能显著提升有效通过的序列长度。
下面这张截图展示的是DeepSeek为DeepSeek-V4-Pro-DSpark和DeepSeek-V4-Flash-DSpark提供的一个最小推理示例。

▲DeepSeek提供的最小推理示例
总体而言,用户部署了DSpark版本的DeepSeek-V4模型之后,在生成速度、首token延迟以及并发能力等维度上,都会获得实实在在的性能提升。
再来看DeepSpec。这是一个专门用于训练和评估推测式解码草稿模型的完整代码库,也就是一套工具链。它包含了数据准备工具、草稿模型的具体实现、训练代码和评估脚本,并且采用MIT许可,几乎做到了完全开放。

▲DeepSpec开源上新页面截图
DeepSpec的工作流程十分清晰:它按顺序执行三个阶段,每个阶段的输出会作为下一个阶段的输入。
1、数据准备:下载提示词,重新生成目标答案,并构建目标缓存。
2、训练:针对缓存好的目标输出来训练一个草稿模型。
3、评估:在基准任务上衡量推测解码的接受程度和效果。
目前,DeepSpec支持的算法包括三个草稿模型:DSpark、DFlash和Eagle3。研发团队还在最后环节向SpecForge、DFlash以及Qwen3和Gemma发文致谢。

▲DeepSeek致谢情况
可以看到,DeepSeek这次不仅仅发布了相关模型,还直接放出了完整的训练框架,供开发者和企业利用自己的Qwen3、Gemma等模型来训练草稿模型。这一系列动作背后的意图十分明确:不仅要打破技术壁垒,还要将推理优化的落地门槛大幅降低。
结语:推理重要度提升,工程化能力成为关键
DeepSeek此次发布虽然低调,且并非模型本身的迭代,但含金量十足。它公布了一套能让现有模型运行更快的工程方案,有望带来更快、更低成本的推理体验,同时大幅降低推测解码技术在实际场景中的部署门槛。
大模型竞赛已经步入训练与推理并重的系统博弈阶段。这次DeepSeek在完成融资后,率先在推理优化赛道落子布局。战略意图非常清晰:不仅加速模型迭代与产品化进程,更要向下抢占算力效率竞争的制高点。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:梁文锋论文称DeepSeek首轮融资后生成速度提升85%要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点度加剪辑是百度官方出品的剪辑工具,面向口播自媒体创作者。支持视频剪辑、智能识别字幕,并与百度网盘打通,可快速导入素材。适用于泛知识类创作者制作高质量视频,覆盖从素材导入到成品输出的完整流程。
WorkoutMaster是一款基于AI的个性化锻炼计划生成工具,能根据用户目标、偏好及历史训练记录,动态输出专属方案,并实时自适应调整负重、组次等参数。支持定制目标与器械偏好,借助机器学习持续优化,随时随地即可接入使用,确保训练高效安全。
Calorielens是一款利用AI分析餐食照片的卡路里追踪应用。用户只需拍照,AI即可自动识别食物种类和分量并估算卡路里,省去手动输入步骤。应用还提供历史记录追踪功能,帮助把握热量趋势。AI估算精度可满足日常健康管理需求。
百度旗下“简单搜索”AI搜索引擎集成语音、图像、多媒体搜索及实时翻译,支持多模态交互与智能推荐。基于大模型技术,用户可通过对话式交互直接获取精准答案,适用于学习、旅行、生活、职业发展等场景,高效满足信息需求。
- 日榜
- 周榜
- 月榜
热点快看
