面包屑图标 当前位置: 首页
AI资讯
热点详情

大模型训练三成电费用在非算力环节

AI热点日报
AI热点日报时间:2026-06-17
热点解读

AI数据中心约30%的电费消耗在算力间的通信上,而非算力本身。为应对功耗瓶颈,CPO技术将光模块集成进芯片封装,可降低30%~50%的单位带宽功耗,但面临热管理和时钟同步挑战。时钟精度成为系统稳定性的关键,AI竞争已转向互联与时间系统的协同。

很多人以为,AI数据中心最烧钱的是GPU H100,一颗功耗高达700瓦,几万颗并行运转,电费数字看上去确实令人咋舌。但如果你了解过真实超大规模数据中心的能耗结构,会发现一个更反常识的结论:

训练一个大模型,30%的电费其实没花在算力上

大约30%的IT电力消耗,并没有用在算力计算上,而是消耗在“算力之间的互联通信”中。你以为电费用在了“计算模型”,实际上有三分之一用在“让模型互相交换数据”上。

一、AI真正的瓶颈,早已不再是算力

过去大家比拼的是:GPU更快、算力更强、集群更大。但如今AI训练进入全新阶段:从万卡集群迈向十万卡级别,关键问题已经改变。不再纠结“能不能算”,而是:这些GPU之间,能否及时完成数据传输。

在大模型训练过程中,通信量的增长速度甚至超过了算力提升速度。于是出现了一个现实困境:GPU性能还在攀升,而网络与光互联却率先扛不住了。交换机、路由器、光模块,开始成为新一代的“电耗大户”。

二、光模块逼近极限,CPO顺势登台

传统数据中心的结构链路是:GPU → PCIe → 交换机 → 光模块 → 光纤。瓶颈恰恰出在“光模块”这一环节。

因为高速信号需要在PCB上传输一段距离:频率越高 → 信号损耗越大;功耗越高 → 发热越严重;速率越快 → 稳定性越差。结果就是:不是算力不够用,而是电信号传不动,于是CPO(共封装光学)应运而生。

它的思路非常直接:把光模块的“外壳去掉”,直接集成到芯片封装内部。让电信号仅走几毫米,随即转化为光信号向外传输。

从工程角度来说,CPO不是简单升级光模块,而是把“外接显卡”直接焊接进主板芯片里。在理想状态下,单位带宽功耗可以降低30%~50%。对数据中心而言,这已不再是优化问题,而是关乎生存——因为电费正在成为扩张的核心掣肘。

三、CPO真正的难题,不在光学,而在“热量”与“时序”

很多人以为CPO的难点在于光器件,其实并非如此。真正的挑战有两个方面:

1)散热难题:传统光模块是“可插拔式”的,坏了直接更换即可。但CPO是“焊死在封装内”的:光引擎、ASIC芯片、封装基板全部挤在一起发热。带来的后果是:一旦出现温度漂移,就可能影响整个链路的稳定性。

2)时序同步:这一点常被忽略。传统系统中,光模块拥有独立时钟,交换芯片也拥有独立时钟,各自“分头运行”。但CPO之后,所有组件处于同一封装内,共用同一个时间基准,问题瞬间变得复杂。

因为任何微小的抖动(jitter)、相位噪声或时钟漂移,都会直接对光信号输出产生干扰。过去“不同步还可以调整”,如今“不同步就会直接出错”。这也是为什么业界开始意识到:传统单端晶振在CPO架构下已经难以满足需求。

四、时钟器件从“辅助配件”,升级为系统基石

进入800G光模块时代后,时钟要求已经明显更加严苛:必须支持差分输出(LVDS / HCSL / LVPECL),抖动要控制在皮秒级别,温漂需限制在±10ppm甚至更严格,并且全温区不能出现漂移。

而到了CPO阶段,问题进一步升级:光引擎数量成倍增加,时钟节点随之翻倍,封装空间却反而更小。于是现实矛盾出现:系统越先进,留给时钟的空间越少,但性能要求却越高。

在这种架构下,像晶科鑫SJK这类晶振厂商的角色变得非常关键:它不再仅仅是“提供频率”,而是决定了系统能否在该频率下稳定运行。

五、一个常被忽视的事实:AI系统本质上是一个“时间系统”

回顾整个技术链路:GPU负责算力,光互联负责传输,CPO负责缩短路径,而晶振与时钟负责一件更底层的事——让所有计算发生在同一个时间坐标系内。

许多AI系统故障,归根结底不是算力不足,也不是带宽不够,而是:同步出现漂移,时钟产生抖动,时间误差不断累积。

六、真正的瓶颈,不在于“更快”,而在于“是否同频”

AI算力仍在持续增长,但增长逻辑已经改变。从追求“单点更强”,转向构建“系统更密”。而系统一旦变得更密集,有一个问题就会被急剧放大:所有组件必须在同一个时间基准下协同工作。

CPO解决的是“距离问题”,光互联解决的是“带宽问题”,而真正底层的问题始终是:时间是否保持一致。

所以,再回头看那句容易被忽略的数据:电费里30%没花在算力,而是花在了通信上。它背后真正的含义是:AI竞争早已不只是算力的比拼,更是一场“互联能力 + 时间系统”的综合较量。

热点追踪提示词
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:大模型训练三成电费用在非算力环节要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
来源:https://www.eefocus.com/article/2034165.html
大模型

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关热点
AI热点2026-07-16 23:00
佑驾创新与乐动机器人达成战略合作共谋发展

佑驾创新与乐动机器人达成战略合作,围绕技术、产品、场景、数据四维度展开深度协同,旨在加速物理AI规模化落地,拓展无人车与机器人场景边界,推动具身智能商业化进程。

AI热点2026-07-16 23:00
Meta出售算力非清库存,市场需求驱动付费意愿

Meta开放AI算力租赁业务,市场反应从算力过剩转向算力商业运营。GPU从自用转向对外出租,算力从成本中心转为利润中心。AI云竞争核心从拥有GPU数量转向稳定跑满GPU的能力,依赖同步与参考时钟等底层基础设施的长期稳定运行。

AI热点2026-07-16 23:00
大仓AI工程化实战 从Vibe Coding到Harness

针对大型多仓库工程(30+微服务、10+前端微应用),搭建包含规则、技能、子代理、13阶段工作流与门禁脚本的Harness系统,解决PRD不可信、方案与代码脱节、改完无人验证、交付环节琐碎等痛点,使AI在真实业务中稳定跑完需求。

AI热点2026-07-16 22:59
MCP Toolbox部署前别急着动手

部署MCP Toolbox前,先看清它的适用场景与安全边界,避免在权限管理不完善时接入敏感数据。 核心内容: 1 MCP Toolbox的核心功能与两种使用路线 2 项目适合与不适合的团队场景分析 3 实际验证的安全检查与关键限制 先说结论 MCP Toolbox 很适合小团队研究“让 AI

延伸阅读