DeepSeek 开源周第三弹：DeepGEMM —— 高效的 FP8 GEMM 库，核心代码仅 300 行！

2025 年 2 月 26 日，在开源周的第三天，deepseek 正式推出了其高效的 fp8 通用矩阵乘法（gemm）库 —— deepgemm。该库不仅支持密集矩阵运算，还兼容混合专家（moe）架构的 gemm 操作，为 v3/r1 模型的训练与推理提供了强大助力。尤为引人注目的是，deepgemm 的核心代码仅约 300 行，却展现出卓越的性能表现。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

为何需要 DeepGEMM？在大规模模型的训练与推理中，矩阵乘法（GEMM，General Matrix Multiplications）是最关键的计算操作之一，尤其在深度学习过程中占据了大量计算资源。随着模型规模的不断扩展，特别是混合专家模型（MoE）的广泛应用，传统 GEMM 实现已难以满足高效计算的需求。MoE 模型通过动态激活部分专家来提升模型容量，但也带来了稀疏性和动态性的问题，使传统的密集矩阵乘法难以高效处理。

此外，低精度计算（如 FP8）在深度学习中的应用日益广泛，因其能够在降低内存消耗的同时维持较高的计算效率。然而，现有 GEMM 库对 FP8 的支持仍较为有限，特别是在 MoE 场景下，缺乏专门优化。DeepGEMM 的推出正是为了应对上述挑战，它实现了高效的 FP8 矩阵乘法，并同时支持密集和 MoE 两种模式，显著提升了大模型训练与推理的效率。

DeepGEMM 的主要特点