微软机房大量英伟达GPU开始吃灰，背后原因揭秘

你敢想象吗？微软堆积如山的GPU显卡，竟然只能在仓库里闲置吃灰？

在最新一期的播客节目BG2中，微软CEO纳德拉亲口坦承，公司正面临一个前所未有的窘境：微软手里有成堆的GPU，却因为缺电、缺空间，只能闲置在那里。

但最核心的问题并非算力过剩——

真正的瓶颈不在芯片供应，而是电力供给能力，以及我们能否快速建成靠近电源的数据中心。如果这一点做不到，哪怕手握再多芯片，它们最终也只能堆在仓库里积灰。

微软缺电，大量GPU闲置

在微软内部，大量英伟达AI芯片处于闲置状态。

这并不是因为算力已经足够或者“过剩”了，而是现有的基础设施不足以支撑这些芯片运转起来。

一是因为缺电。

二是因为缺少可以立即投入使用、拥有充足供电与冷却能力的现成机房——也就是纳德拉口中的“warm shells”，即那些已建成、具备完善供电和冷却条件的数据中心外壳。

这并非他第一次对外谈及微软的这一烦恼。

去年，当被问及微软在2024年是否依然受到英伟达芯片供应限制时，纳德拉是这样说的：

我们受到的是电力限制，而不是芯片供应限制。

缺电之外：囤芯片也不再安全

过去五年，美国整体电力需求曲线突然被拉高。

随着AI和云计算带动的大型数据中心建设进入高峰期，用电需求开始超出预期的速度增长，远远超过了公用事业公司原本规划的新增发电容量。

供给端的反应明显滞后。

传统电厂从立项到并网通常需要数年周期，而AI产业扩张的节奏却是按季度计算。于是，为了追上算力扩张的步伐，越来越多数据中心开发商不得不自己为AI发电。

因此，越来越多数据中心开发商选择采用所谓的“计量表后”供电方式——直接将电力接入数据中心，绕过公共电网，以弥补供能缺口。

尽管如此，数据中心、电力与冷却系统的建设节奏，还是远远跟不上现实需求。

光伏太阳能被视为目前建设周期最短、部署最灵活的能源形式，但在时间维度上，它与数据中心几乎同步——从选址、施工到并网动辄数月甚至一年。

而AI需求的变化往往只需要一次模型更新或一次产品发布。举个例子：当算力曲线每季度刷新纪录时，能源系统还在审批表格上打转。

部分业内同行担心，如果未来AI需求增速放缓，当前为支撑AI算力而大规模投资的电厂和储能项目，可能会出现闲置风险。

但奥特曼并不这么看。

奥特曼认为，AI的用电需求不可能回落，只会持续增长。也就是说，更高效、更便宜的计算力，只会激发出更多应用场景。

如此看来，奥特曼似乎是一个杰文斯悖论信徒。

该悖论认为，资源的更高效利用将导致更大规模的使用，从而增加整体需求。

如果算力成本明天下降100倍，用量会增长远超过100倍。越便宜的计算力，只会带来更大的总体需求。

网友建议：不如开发点能耗低的芯片？

自20世纪90年代末以来，美国电力生产一直徘徊在约4万亿千瓦时/年。

但这变化来得太快了：

人口增长了20%，部分物理电网老化，新的城市生活和科技进步都对电力需要提出了不断增长的需求。

如上所述，GPU生产可以按季度迭代，但电力系统、数据中心冷却与输电网的建设，却是以年为单位的工程。

AI产业算力增长能否延续，关键已不在芯片产量，而在于能源与基础设施是否能同步扩张。

这也让行业目光重新转向上游芯片厂商。

过去，英伟达等公司拼的是峰值性能：算力越强、速度越快越好。

但当限制从“算力短缺”变成“电力短缺”后，标准是否有可能开始反转？

reddit相关讨论帖中，有网友表达了自己的建议：

如果你受的是电力限制而不是芯片限制，你会想要更节能的芯片，对吗？如果你已经因为缺电而闲置设备，而英伟达推出一款速度提升1.2倍但能耗降低25%的芯片，那将非常有吸引力。

One More Thing

周一，微软在X上宣布，相关部门已经批准它向阿联酋运送英伟达芯片，用来建设训练AI模型所需的数据中心。

微软还表示，未来四年将在海湾国家投资80亿美元用于数据中心、云计算和其他人工智能项目。

中东地区资本丰厚、能源丰富，外媒分析指出，这笔交易也标志着AI基础设施正在从硅谷迁往能源充足的新兴市场。

或许到了那里，微软买下的英伟达GPU可以不再吃灰了……

参考链接：

[1]https://www.reddit.com/r/hardware/comments/1onawsk/microsoft_ceo_says_the_company_doesnt_have_enough/

[2]https://x.com/rohanpaul_ai/status/1985462248349766076

[3]https://finance.yahoo.com/news/microsoft-gets-u-approval-export-134300053.html