智谱DeepSeek-MLA模型实测：M5芯片跑起来效果如何

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

智谱AI上市之后，再推重磅新成果。

全新开源的轻量级大语言模型GLM-4.7-Flash正式登场，无缝接替上一代GLM-4.5-Flash，并提供免费API调用服务。

这是一款采用混合专家（MoE）架构的模型，其核心特点是仅激活少量参数——虽然总参数量达300亿，但实际推理时仅动用约30亿参数。智谱将其定位为“本地编程与智能助手”，专注于实际场景的效率与实用性。

在SWE-bench Verified代码修复测试中，GLM-4.7-Flash以59.2分的表现展现了其编程能力。在“人类最后的考试”等综合评测中，它也显著超越了同规模的通义千问和GPT-OSS等模型。

作为去年12月发布的旗舰模型GLM-4.7的精简版本，GLM-4.7-Flash完整继承了GLM-4系列在代码生成与逻辑推理方面的核心优势，并专门针对效率和资源占用进行了优化。

除了编程辅助，官方也推荐将该模型用于创意写作、翻译、长文本理解等任务，甚至可用于角色扮演等互动场景。

首次上线MLA架构，30亿总参数仅激活3亿

GLM-4.7-Flash延续了该系列“混合思考模型”的设计理念。

模型总参数量为300亿，但在实际推理过程中仅激活大约30亿参数。这一设计让模型在保持强大能力的同时，大幅降低了计算资源的消耗。

上下文窗口长度支持高达20万token，既可以通过云端API调用，也支持在本地环境中进行部署。

目前官方尚未发布详细的技术报告，更多实现细节需要开发者从配置文件中去探索和挖掘。

有开发者注意到了一个关键的技术细节：智谱团队这次首次采用了MLA（多头潜在注意力）架构。这一架构此前由DeepSeek-v2率先应用并验证了其有效性，如今智谱也跟进了这项技术。

从具体结构来看，GLM-4.7-Flash的深度与GLM-4.5-Air和通义30B-A3B等模型接近，但在专家数量配置上有所不同——它采用了64个专家而非128个，推理时激活其中5个（含共享专家）。

模型发布不到12小时，HuggingFace、vLLM等主流平台就已提供了即时的支持。

智谱也在第一时间提供了对华为昇腾NPU的适配支持。

在本地部署方面，经过开发者实测，在配备32GB统一内存、M5芯片的苹果笔记本上，推理速度可以达到每秒43个token。

在官方API平台上，基础版本的GLM-4.7-Flash完全免费开放（限1个并发），高速版的GLM-4.7-FlashX定价也相当亲民。

与同类模型相比，GLM-4.7-Flash在上下文长度支持和输出token定价方面具备一定优势，不过其响应延迟和吞吐量仍有进一步优化的空间。

智谱新模型也采用DeepSeek的MLA架构，苹果M5芯片就能流畅运行