GPU算力压力即将爆发
AIGC市场爆发推升GPU需求,2023年AI服务器出货近120万台,同比增38%,供应严重短缺。生成式AI算力需求巨大,高端GPU昂贵稀缺,HPC领域可能转向CPU等替代方案。
GPU涨的不仅是价格。

今年以来,AIGC市场的爆发直接点燃了对GPU的需求。TrendForce集邦咨询的数据显示,2023年AI服务器出货量预估接近120万台,同比增长近38%,AI芯片出货量更是有望突破五成增长。但问题在于,供应端明显跟不上节奏。
一位AI公司高管向记者透露,他们公司4月份下的服务器订单,至今没有确切交货期,原因就是服务器厂商的GPU还没到位。“现在签服务器合同,违约条款都不写了,货期也不签,要么等,要么取消。”这种“一切都在等英伟达”的局面,正在成为行业常态。
对GPU这类加速硬件的渴求,从未像今天这般强烈。如果这波趋势持续下去,当前的高需求恐怕会延续到不远的将来。对于HPC领域来说,这意味着GPU会变得昂贵且稀缺——除非你的采购量大到可以直接跟供应商谈。
GPU天生擅长加速矩阵运算,而这恰好是许多HPC应用的核心。它们提供的SIMD处理单元,能高效应对复杂的并行数组操作。有趣的是,HPC领域的GPU成本,很大程度上是靠规模大得多的游戏市场(大约是HPC的7倍)来分摊的。游戏玩家买GPU飞越虚拟星系,科学家则用它模拟真实星系,两者共享同一套硬件生态。
加密货币挖矿的浪潮,一度打破了这种平衡。游戏GPU在挖矿中极其高效,既能快速算哈希,又能顺便发热取暖,市场需求一度火爆。但随着加密市场的起伏,这股需求似乎正在降温。
到了高端市场,情况完全不同。Reports Insights的一份报告预测,全球GPU市场从2022年到2030年的复合年增长率将达到33.5%。对供应商来说,这当然是好消息,但对最终用户而言,大型语言模型的崛起(比如ChatGPT)创造了一股全新的需求力量——严格来说,这部分需求并不属于传统HPC市场。
举个具体的例子:Inflection AI正在开发一款名为“Pi”的个人AI聊天机器人,为此他们建了一台搭载22,000个英伟达H100 GPU的超级计算机。对比一下,6月份TOP500榜单上排名第一的Frontier系统,也只配备了37,632个GPU。这说明生成式AI对算力的胃口有多大。
Inflection AI的案例并不孤立。SemiAnalysis的报告提到了另一个现象:连OpenAI都拿不到足够的GPU,这严重阻碍了其近期路线图,多模态模型也因此无法部署。整个行业都在为GPU短缺而头疼。
正在寻找FLOPS?
好在,GPU对HPC来说并非唯一选择。但最新的TOP500系统统计显示,37%的机器已经在使用GPU,这个比例还在上升。随着系统迈向exaFLOPS级别,翻跟斗的使用只会更加普遍。
如前所述,GPU虽非必需品,但对许多HPC应用来说颇为理想。生成式AI行业的爆发式增长,使得HPC领域无论是自建还是上云,都面临GPU全面短缺的困境。高端GPU(英伟达、AMD或英特尔)的高需求,可能会促使HPC从业者考虑纯CPU解决方案——众核、A VX-512、HBM、3D V-Cache等技术,同样能帮代码加速。
对“GPU计算资源”的渴求,也可能催生一些新玩法。回想一下,HPC中的早期GPU应用,是从标准显卡和一种叫“Brook”的新语言开始的——它正是CUDA的前身。当时这种方法看起来有些“别扭”,但速度的提升不容忽视,最终重塑了整个HPC领域。
最近还有一个有意思的信号:最新版的AMD ROCm GPU库(V5.6)开始支持移动和桌面级的iGPU。有测试表明,在Ryzen 9 6900HX处理器上,同样的TensorFlow基准测试,纯CPU需要13秒,而CPU/iGPU组合只需3秒。虽然还需要更多验证,但这暗示着内部GPU或许能贡献一些闲置的FLOPS。
GPU的巨大压力,已经到来了。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:GPU算力压力即将爆发要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点最新调研显示,美国消费者对品牌营销中使用人工智能普遍持谨慎态度。60%的受访者反感品牌营销出现AI,86%的人不信任AI生成内容并会核查原始信源。与此同时,品牌却面临双重挑战:既要提升在AI搜索环境中的可见度,又要应对消费者的信任危机。数据显示,60%的企业过去一年来自AI渠道的流量在增长,但42%
国家医保局通报了云南省彝良县人民医院未及时发放职工生育津贴的典型案例。经核查,该院一名职工的生育津贴25158 87元在医保局拨付后近一年未发放,同时发现另有12人存在同类问题。在医保部门督促下,医院最终将13人共计200672 7元津贴全额发放。为保障参保人权益,国家医保局自2025年起推动生育津
国际足联于6月17日宣布,中国裁判员马宁将担任美加墨世界杯E组第二轮厄瓜多尔对阵库拉索比赛的主裁判,助理裁判为周飞。比赛将于6月20日在堪萨斯城举行。此次任命是中国裁判再次亮相世界杯执法舞台的重要标志,体现了国际足联对其专业能力的认可,对于提升中国足球裁判的国际形象和水平具有积极意义。
SpaceX公司的货运“龙”飞船于近日成功完成国际空间站补给任务并返回地球,在加州附近海域溅落。此次任务带回了大量极具科研价值的物资,包括在太空中生物打印的人体组织样本、关乎深空探索的低温燃料储存技术数据,以及用于癌症治疗研究的DNA仿生材料。同时,用于监测宇航员健康的成像仪器、空气净化系统等实用设
- 日榜
- 周榜
- 月榜
热点快看
