特斯拉机器人超算芯片全面深度解析

“擎天柱”机器人迈出稳健步伐，向世界打招呼的那一刻，很多人都在问：这机器人凭什么这么强？抛开特斯拉在AI领域多年的积累不谈，真正让这颗“大脑”与众不同的，是藏在它身体里的一颗自研AI芯片。这颗芯片既不是传统的CPU，也不是我们熟知的GPU，而是一种专为复杂AI计算打磨的新形态。

先说几个核心判断。2022年9月底的那场AI日，特斯拉不仅让机器人首次在没有任何外部支撑下亮相，还展示了它在办公室搬运物品、给植物浇水，甚至在工厂里自主工作的视频。按照官方的说法，他们的目标很明确——尽快造出有用的人形机器人，并且把价格压到2万美元以下，比一辆特斯拉电动车还便宜。

机器人强大的“内芯”从何而来

机器人表现之所以亮眼，核心原因在于特斯拉自研的AI芯片——D1处理器。这颗芯片的架构设计，和目标不仅仅是替代GPU这么简单。

GPU并不是为深度学习训练而生的，这导致它在这类任务中的效率相对较低。特斯拉与Dojo（Dojo既是训练模组的名称，也是内核架构的名称）的目标很清晰：“实现最佳的AI训练性能，支持更大、更复杂的神经网络模型，同时保持高能效和低成本。”说白了，特斯拉要造一台比其他任何计算机都更擅长AI计算的机器，将来不再需要依赖GPU。

构建超级计算机的关键挑战，是如何在扩展计算能力的同时，保持高带宽（这个已经很难了）和低延迟（这更是难上加难）。特斯拉给出的解法是：强大的芯片加上独特的网格结构，组成一个分布式2D平面——也就是所谓的数据流近存计算架构。

来直观感受一下算力单元的层级划分。每354个Dojo核心组成一块D1芯片，每25颗D1芯片组成一个训练模组，120个训练模组最终堆成一组ExaPOD计算集群，总计3000颗D1芯片。

这样的部署带来了惊人的成本效益：一个特斯拉Dojo训练模组，性能相当于6组GPU服务器，但成本却低于单组GPU服务器。单台Dojo服务器算力达到了54PFLOPS，只用4个Dojo机柜就能取代由4000颗GPU组成的72组机架。原来需要几个月的AI训练任务，被压缩到一周以内。“大算力出奇迹”的思路，与特斯拉自动驾驶的风格一脉相承。当然，这颗芯片并非完美——尽管采用了数据流近存计算的思路，其算力能效比并没有超过GPU。单个服务器功耗巨大，电流达到2000A，需要专门定制的电源供电。可以说，D1芯片已经是近存计算架构下的结构极限了。如果未来特斯拉转向“存内计算”或“存内逻辑”架构，芯片性能和能效比或许还有跃升空间。

一个特斯拉服务器由12个Dojo训练模组组成（2层，每层6个）。

Dojo架构的设计哲学：少即是多

每个Dojo核心是一个8路译码的内核，具备高吞吐量和4路矩阵计算单元（8x8），以及1.25MB的本地SRAM。但它的核心尺寸并不大——作为对比，富士通的A64FX在同一工艺节点下，占用面积是它的两倍以上。

从Dojo核心的结构中，我们可以提炼出特斯拉在通用AI处理器上的几条设计哲学：

面积精简。特斯拉的目标是通过集成大量计算内核来最大化AI计算的吞吐量。这就要求在保障算力的前提下，把单个内核的面积尽量做小，以便在超算系统中更好地平衡算力堆叠和延迟之间的矛盾。

缓存与延迟精简。为了最大化区域计算效率，Dojo内核运行在相对保守的2GHz（保守的时钟电路占用面积更小），只使用基本的分支预测器和较小的指令缓存。多余的芯片面积，全部留给向量计算和矩阵计算单元。当然，如果程序代码量大或分支复杂，这种策略可能会损失一些性能。

功能精简。通过削减对内部计算并非必要的处理器功能，进一步降低功耗和面积。Dojo核心不做数据端缓存，不支持虚拟内存，也不支持精确异常。

对于特斯拉和马斯克来说，“Dojo”不仅是形状像道场，其设计哲学也与“道场”的精神息息相关——少即是多。这是一种极具美感的处理器设计思路。

D1核心是RISC-V架构吗？

先来看看每个Dojo核心的结构特点。每个Dojo核心是一个带有向量和矩阵计算能力的处理器，具备完整的取指、译码、执行部件。它的风格更像CPU，似乎比GPU更能适应不同的算法和分支代码。D1的指令集类似于RISC-V，运行在2GHz，拥有4组8x8矩阵乘法计算单元，同时还有一组自定义向量指令，专门用于加速AI计算。

对RISC-V领域熟悉的人大概能注意到，特斯拉Dojo架构图的配色方案，似乎在向伯克利的BOOM处理器架构图致敬——上黄中绿下紫。

D1核心整体架构

从架构图来看，Dojo核心由前端、执行单元、SRAM和NoC路由四部分组成，控制部件比CPU和GPU都少。它拥有类似CPU的AGU，以及思路类似GPU张量核心的矩阵计算单元。

相比BOOM，Dojo核心更加精简——没有Rename这类改善执行部件利用率的组件，也不支持虚拟内存。好处是控制部分占用的面积大大减少，芯片上更多的面积被划分给了计算执行单元。每个Dojo核心提供了1.024TFLOPS的算力，几乎全部来自矩阵计算单元。因此，矩阵计算单元和SRAM共同决定了D1处理器的计算能效比。

几个关键部件的说明：

分支预测。Dojo核心没有类似GPU的SIMT堆栈来分配多线程分支任务，但它有BTB（分支目标缓冲区），可以通过简单的分支预测来提升性能。BTB将分支成功的指令地址和目标地址放在缓冲区中，以指令地址作为标识，从而减少分支带来的性能损失。

指令缓存。较小的L1指令缓存直接与核心中的SRAM相连，获取计算指令。

取指。每个Dojo内核有32B的取指窗口，最多容纳8条指令。

译码。8路解码器每个周期可处理两个线程，从取指缓冲获取指令并译码，根据指令要求分配执行资源。

线程调度。8路宽译码之后，是向量的调度器和寄存器堆。这里没有分支聚合的掩码判断，实际分支执行效率可能略低于GPU——希望特斯拉有一个强大的编译器来弥补。

执行单元。包括2路ALU和2路AGU，以及针对向量/矩阵计算的512位SIMD和4路8x8矩阵乘法单元。矩阵计算单元是算力主体（下节细讲）。ALU和AGU负责矩阵计算之外的少量逻辑计算。AGU（地址生成单元）主要负责生成操作SRAM的地址和访问其他核心的地址，与CPU其他部分并行运行。普通CPU计算内存地址需要多条指令，而特斯拉通过AGU硬件电路直接执行，减轻了ALU负担，减少了等待周期。

Dojo内核的连接方式，和IBM Cell处理器中的SPE内核连接方式很相似：D1或SPE上运行的代码不能直接访问系统内存，应用程序主要在本地SRAM中工作；如果需要主存储器（DDR或HBM）的数据，必须用DMA操作读入；D1和Cell的SPE都不支持虚拟内存。

算力核心：矩阵计算单元与片内存储

Dojo架构算力增强的根基，是矩阵计算单元。它与核心SRAM之间的数据交互，构成了内核数据搬运的主要功耗来源。

特斯拉矩阵计算单元的相关专利显示，其核心部件是一个8x8矩阵乘法单元（称为矩阵计算器）。输入为数据输入阵列和权重输入阵列，计算矩阵乘法后直接在输出端累加。每个Dojo核心包含4路这样的单元。

由于架构图上只有一个L1缓存和SRAM，我们可以大胆推测：特斯拉精简了RISC-V的缓存结构，目的是节省面积、减少延迟。每个核心1.25MB的SRAM块，可以为SIMD和矩阵计算单元提供2x512位的读带宽（对应权重和数据）和512位的写带宽，以及面向整数寄存器堆的64位读写能力。计算的主要数据流，就是从SRAM流向SIMD和矩阵乘法单元。

矩阵计算单元的主要处理流程是这样的：

通过多路选择器从SRAM加载权重到权重输入阵列，同时加载数据到数据输入阵列；

输入的数据与权重在矩阵计算器中进行乘法计算；

乘法计算结果输出到输出累加器进行累加（可以通过矩阵划分拼接的方式，进行超过8x8的矩阵计算）；

累加后的输出传入后处理器寄存器堆缓存，随后进行后处理（如激活、池化、Padding等操作）。

整个流程由控制单元直接控制，无需CPU干预。

Dojo核心内的SRAM拥有巨大的读写带宽——加载速度可达400GB/秒，写入速度为270GB/秒。Dojo核心指令集内有专用的网络传输指令，通过NoC路由，可以直接将数据移入或移出D1芯片甚至训练模块中其他内核的SRAM。

与普通SRAM不同，Dojo的SRAM包含列表解析引擎和收集引擎。列表解析功能是D1芯片的关键特性之一，它可以将复杂的不同数据类型的传输序列打包，提升传输效率。

为了进一步减少操作延迟、面积和复杂度，D1不支持虚拟内存。在通常处理器中，程序使用的内存地址需要通过CPU和操作系统设置的分页结构转换为物理地址。在D1内核中，4路SMT功能使计算具备显式并行性，简化了AGU和寻址计算，以足够低的延迟访问SRAM，避免了中间L1数据缓存的延迟。

Dojo指令集与数据格式

D1参考了RISC-V架构的指令，并自定义了一些指令，尤其是矢量计算相关指令。它支持64位标量指令和64字节SIMD指令，以及网络传输与同步原语、机器学习/深度学习相关的专用原语（如8x8矩阵计算）。网络数据传输与同步原语方面，支持从本地存储到远程存储传输数据的指令原语，以及信号量和屏障约束。这使D1可以支持多线程，其存储操作指令能在多个D1内核中运行。

针对机器学习和深度学习，特斯拉定义了包括shuffle、transpose、convert等数学操作指令，以及随机舍入、padding相关指令。

在数据格式方面，D1核心支持FP32和FP16两个标准格式，还支持更适合推理的BFP16格式。为了达到混合精度计算、提升性能的目的，D1还采用了用于较低精度和更高吞吐量的8位CFP8格式。CFP8的优势在于可以用更少的乘法器空间实现几乎相同的算力，对提升D1的算力密度帮助很大。Dojo编译器可以在尾数精度附近滑动，以覆盖更广泛的范围和精度。在任何时间，最多可以使用16种不同的矢量格式，灵活调整算力。

根据特斯拉的信息，矩阵乘法单元内部可使用CFP8进行计算（存储为CFP16格式）。

Dojo架构能否超越GPU？

D1处理器由台积电制造，采用7nm工艺，拥有500亿个晶体管，芯片面积645mm²，小于英伟达A100（826mm²）和AMD Arcturus（750mm²）。

数据流近存计算架构

每个D1处理器由18×20的Dojo核心拼接构成，其中有354个核心可用（使用360个核心中的354个，是为了考虑良率和每个处理器核心的稳定性）。

每个Dojo核心有1.25MB的SRAM，不同核心通过片上网络路由（NoC）进行连接，而不是共享数据缓存。NoC可以处理跨节点边界4个方向（东南西北）的8个数据包，每个方向64B/时钟周期。它还可在每个周期对核心内的SRAM进行一次64B双向读写。

每个Dojo核心都是一个相对完整的、带矩阵计算能力的类CPU，其数据流架构类似SambaNova的二维数据流网格结构——数据直接在各个处理核心之间流转，无需回到内存。D1芯片运行在2GHz，拥有巨大的440MB SRAM。特斯拉将设计重心放在计算网格中的分布式SRAM上，通过大量更快更近的片上存储和它们之间的数据流转，减少对内存的访问频度，从而提升整体性能。这具有明显的数据流存算一体架构（数据流近存计算）特征。

每颗D1芯片有576个双向SerDes通道，分布在四周，可连接到其他D1芯片，单边带宽为4TB/秒。

Chiplet封装互连技术

每个D1训练模块由5×5的D1芯片阵列排布而成，以二维Mesh结构互连。片上跨内核SRAM达到惊人的11GB，当然耗电量也达到15kW——能效比为0.6TFLOPS/W@BF16/CFP8（这个数据确实不太理想）。外部有32GB共享HBM内存（HBM2e或HBM3）。

特斯拉使用了专用的电源调节模块（VRM）和散热结构来进行功耗管理。主要目的有两个：减少不必要的功耗损失、提升能效比；减少散热形变造成的处理器模组失效。根据专利，电源调节模块与芯片本身垂直，极大减少了对处理器平面的面积占用，且可以通过液冷迅速平衡处理器温度。

训练模组在封装上采用InFO_SoW封装来提高芯片间互连密度。除了台积电的INFO_SoW技术，特斯拉还采用了自家的机械封装结构，以减少处理器模组的失效。每个训练模块外部边缘的40个I/O芯片，达到36TB/s的聚合带宽，或10TB/s的横跨带宽。每层训练模块都连接着超高速存储系统：640GB运行内存提供超过18TB/s的带宽，另有超过1TB/s的网络交换带宽。

数据传输方向与芯片平面平行，供电及液冷方向与芯片平面垂直。这是一个非常优美的结构设计——不同训练模块之间还可以互连，通过立体结构节约了芯片模组的供电面积，尽可能减少计算芯片间的距离。一个Dojo POD机柜由两层计算托盘和存储系统组成，每层托盘有6个D1训练模组，两层共12个训练模组组成一个机柜，可提供108PFLOPS的深度学习算力。

电源管理与散热控制

散热一直是衡量超算系统水平的重要维度。D1芯片的TDP为400W，将25颗D1芯片紧密封装成一个训练模组，仅处理器TDP就可能高达10kW。在这样的高密度计算芯片矩阵环境下，特斯拉必须为D1芯片提供全新的散热和供电方案。

特斯拉在Dojo POD上使用了全自研的VRM。单个VRM可以在不足25美分硬币面积的电路上，提供52V电压和超过1000A的巨大电流——电流密度0.86A每平方毫米，共12个独立供电相位。

高密度芯片散热，重点是控制热膨胀系数（CTE）。Dojo系统的芯片密度极高，CTE稍微失控，就可能导致结构变形或失效，进而出现连接故障。特斯拉这套自研VRM在过去两年内迭代了14个版本，采用MEMS振荡器来感知电源调节模组的热形变，最终才完全符合内部对CTE指标的要求。这种通过MEMS技术主动调节电源功率的方式，与控制火箭箭身振动的主动调节方式类似。

编译生态

对于D1这类AI芯片来说，编译生态的重要性不低于芯片本身。

在D1处理器平面上，D1被划分为矩阵式的计算单元。编译工具链负责任务的划分和配置数据存储，并通过多种方式实现细粒度的并行计算，同时减少存储占用。

Dojo编译器支持的并行方式包括数据并行、模型并行和图并行。支持的存储分配方式包括分布式张量、重算分配和分割填充。编译器本身可以处理各种CPU中常用的动态控制流，包括循环和图优化算法。借助Dojo编译器，用户可以将Dojo大型分布式系统视为一个整体翻跟斗进行设计和训练。

整个软件生态的顶层基于PyTorch，底层基于Dojo驱动，中间使用Dojo编译器和LLVM形成编译层。加入LLVM后，特斯拉可以更好地利用LLVM上已有的各种编译生态进行优化。

结语

通过特斯拉AI日，我们不仅看到了“擎天柱”机器人的真身，也对其强大的“内芯”有了更深入的认识。特斯拉的Dojo核心与以往的CPU和GPU架构都不同，可以说是结合了CPU特点的精简GPU，相信在编译层面也会与CPU和GPU有较大差异。为了提升计算密度，特斯拉做了极致精简的优化，并提供了主动调节的电源管理机制。

特斯拉Dojo架构不止名为“道场”，其设计也确实以简为道、以少为多。这种架构会不会成为继CPU和GPU之后的又一典型算力芯片形态？我们拭目以待。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：特斯拉机器人超算芯片全面深度解析要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题