天数智芯天垓300 GPU支持标量矢量张量计算

2026年7月20日，天数智芯在世界人工智能大会上正式发布了新一代通用GPU旗舰产品——天垓300。从其产品定位来看，这显然是一款专为高性能计算及AI训练与推理场景打造的硬核产品。

首先给出几个核心判断：天垓300采用SIMT通用计算架构，能够同时支持标量、矢量、张量等多种计算类型，这在当前主流GPU产品中并不罕见。但真正值得关注的是，它在Attention机制、MoE架构、AF分离、PD分离以及大规模系统扩展等关键技术点上进行了深度优化——这些正是当前大模型训练和推理过程中最关键的瓶颈环节。

从数据来看，天垓300在复杂业务负载下的效能表现，已持平甚至超越基于Hopper架构的国际主流方案。具体而言，以下关键指标值得深入分析：

Attention效率方面，整体效率超过90%，在处理64k长上下文场景时，效能较Hopper方案提升10%。这意味着在长序列任务中，计算资源利用率得以显著提高，对训练和推理均具有实际意义。

MoE推理效能方面，平均效能较Hopper方案提升10%，同等算力条件下可完成更多推理任务。对于部署MoE模型的用户而言，这直接带来更低的成本与更高的吞吐量。

通信与解码性能同样表现亮眼——首字延迟较Hopper方案降低约20%，平均通信延迟降低约13%。特别针对Decode阶段高频、多卡、小数据量通信场景，优化了协议开销与链路数据流转机制，最终使Decode阶段整体效能提升10%。

天数智芯方面表示，天垓300目前已具备规模化应用条件，并与国内主流云厂商、服务器厂商、互联生态及超节点系统展开了深度适配，能够覆盖从单机部署到大规模集群化方案的全场景。