摩尔线程S5000与智源FlagOS适配DeepSeek-V4 原生FP8引擎详解

4月24日，摩尔线程与智源FlagOS社区达成深度技术合作，成功在国产旗舰级AI训推一体全功能GPU MTT S5000上，实现了对新一代大模型DeepSeek-V4-Flash的Day-0极速适配与部署。此次合作不仅完成了全量核心算子的深度优化，更充分释放了国产GPU在支持前沿大模型推理方面的强大潜力。

本次适配的DeepSeek-V4-Flash模型实力非凡。它基于先进的混合专家（MoE）架构打造，总参数量高达2840亿，激活参数量为130亿，并支持百万级别的超长上下文处理。其预训练数据规模超过32万亿token，在极大推理力度模式（Flash-Max）下，性能已逼近其Pro版本。一个关键的技术细节在于，V4模型创新性地采用了“FP4+FP8”混合精度策略，而当前国内多数AI芯片仍以BF16精度支持为主。这恰恰凸显了摩尔线程MTT S5000的核心优势：原生支持FP8数据格式。这一特性为DeepSeek-V4等采用前沿精度设计的大模型，提供了高度匹配、能效更优的国产算力底座。

作为国内率先原生支持FP8精度的全功能GPU，MTT S5000内置了强大的硬件级FP8张量核心加速单元。与传统的BF16或FP16精度相比，FP8将数据位宽直接减半，这不仅显著降低了50%的显存带宽压力，更使理论计算吞吐量实现翻倍提升，在AI推理效率上优势明显。

那么，如何将MTT S5000在FP8计算上的硬件优势，切实转化为DeepSeek-V4模型的实际推理性能呢？FlagOS团队对模型进行了系统的FP8量化。通过深入的技术分析，双方将本次适配攻坚的重点，锁定在决定长上下文效率与极致推理性能的两个关键算子：FP8算子和稀疏注意力（Sparse Attention）算子。围绕这两大核心，团队从“编译优化”与“自动调优”两大方向取得了关键性突破：

方向一：编译器深度优化，充分释放硬件算力

技术团队深度利用了摩尔线程自研的FlagTree编译器能力。通过实施精细化的Shape对齐策略，使FP8和Sparse Attention的计算形状能更高效地匹配摩尔线程张量访存与计算引擎（TME/TCE）的硬件特性。同时，结合启用MUSA_ENABLE_SQMMA特性，进一步加速了tl.dot矩阵计算核心，从编译器底层打通了性能瓶颈。

方向二：自动调优系统，智能探寻最优配置

借助FlagOS-Tune自动调优工具，团队实现了对Optimal Triton内核配置的自动化智能搜索。该系统能够扩展算子的性能搜索空间，基于模型实际运行的动态形状，离线搜索出FP8和Sparse Attention算子的最优内核执行配置，其效果通常超越依赖经验的手工调参。

除了离线优化，FlagOS-Tune还具备在线内核配置搜索能力。开发者只需设置环境变量USE_FLAGTUNE=1，系统在经过短暂预热（warmup）后，便能基于实际推理过程持续搜索并动态应用最佳配置，实现性能的实时优化。实测性能数据显示，经过系列优化后，首token生成时间（TTFT）延迟降低了16.5%，推理时延（ITL）降低了39.7%，而吞吐量（Throughput）则大幅提升了65.7%，优化效果显著。

目前，摩尔线程与FlagOS社区的协作正在向更深层次推进。双方正持续开展对参数量高达1.86万亿的旗舰模型DeepSeek-V4-Pro在MTT S5000平台上的迁移与适配工作。可以预见，凭借其MUSA架构与全功能GPU的全栈技术优势，摩尔线程将持续为蓬勃发展的国产大模型生态，提供更高效、更自主可控的坚实算力支撑。