三星发布首款36GB HBM3E 12H内存满足AI时代更高要求

2024年2月27日，三星电子正式发布了旗下首款12层堆叠的HBM3E DRAM，型号命名为HBM3E 12H。这是迄今为止三星产品线中容量最高的高带宽内存产品。

先说几个核心判断：12层堆叠、36GB容量、1280GB/s带宽——HBM3E 12H是一次实实在在的规格跃升。相比上一代8层堆叠的HBM3 8H，带宽和容量均实现了超过50%的提升。需要特别注意的是，“更大容量”对于当前的人工智能服务供应商而言，几乎是刚需。

三星存储器产品企划团队执行副总裁Yongcheol Bae对此表示：“行业对高容量HBM的需求确实日益迫切，HBM3E 12H正是为了回应这种需求而设计的。这套存储方案背后，凝聚了我们多年在多层堆叠技术上的积累，也是我们在AI时代争夺高容量HBM市场技术领导地位的关键一步。”

三星首款36GB HBM3E 12H DRAM展示

技术亮点：如何实现突破？

核心在于封装技术的创新。HBM3E 12H采用了先进的热压非导电薄膜技术（TC NCF）。这套技术的独特之处在于，尽管堆叠层数从8层增加到了12层，但封装高度与8层版本完全相同——这在当前HBM封装标准下，具有极高的价值。

行业长期面临一个痛点：芯片越薄、堆叠越多，芯片弯曲的问题就越突出。而三星的做法是持续降低NCF材料的厚度，将芯片之间的间隙压缩至7微米（µm），并彻底消除了层与层之间的空隙。最终，HBM3E 12H的垂直密度比HBM3 8H提升了20%以上。

此外，热性能也值得关注。三星的TC NCF技术允许在不同区域使用不同尺寸的凸块（bump）——信号传输区域采用小凸块，散热区域采用大凸块。这种方式既能保障电气性能，又能改善散热效果，同时也有助于提升良率。

应用价值：不止是规格提升

从应用角度来看，HBM3E 12H瞄准的是人工智能场景下对更大存储容量的迫切需求。大容量带来的直接好处是，系统可以更灵活地调配资源，数据中心也能有效降低总体拥有成本（TCO）。

根据三星的内部模拟结果，搭载HBM3E 12H的人工智能系统，训练速度相比HBM3 8H可提升约34%，而推理服务可支持的用户数量，能够增加超过11.5倍。对于正在疯狂扩充算力的行业来说，这一提升幅度相当可观。

目前，三星已开始向客户提供HBM3E 12H的样品，量产时间定于今年下半年。按此节奏推进，预计今年下半年到明年，将会有更多搭载这款产品的AI系统落地应用。