IBM开源Granite 4.0：混合架构大幅降低内存需求

10月4日，IBM发布全新企业级大语言模型Granite 4.0系列。采用创新的Mamba-Transformer混合架构，新一代模型能在保持高性能的同时显著降低内存占用，从而使推理部署成本得到有效控制。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

此次推出的首批Granite 4.0模型包含Small、Tiny、Micro三种规模的标准版和指令版（详细规格见下表），更高参数规模的版本和推理优化变体计划于2025年底面世。

Granite 4.0系列主要型号参数：

• Granite-4.0-H-Small：32B总参数，9B激活参数
• Granite-4.0-H-Tiny：7B总参数，1B激活参数
• Granite-4.0-H-Micro：3B总参数
• Granite-4.0-Micro：基于传统Transformer架构，3B总参数

据IBM介绍，混合架构设计在长文本输入和高并发场景下可减少70%内存需求。基准测试显示，即便是最小规模的Granite 4.0模型，性能也显著超越了前代Granite 3.3 8B版本，而Granite-4.0-H-Small则以相对精简的参数规模跻身开源模型第一梯队。

IBM以Apache 2.0开源许可证发布Granite 4.0系列模型，该系列产品不仅通过了ISO 42001认证，还采用了加密签名技术确保安全性。