微软谷歌斗法，下一代AI芯片有何突破

微软和谷歌正在用各自的方式，把人工智能塞进搜索引擎——这几乎可以称作新一轮计算变革的号角。但归根结底，真正决定这场变革成败的，可能不是算法多聪明，而是背后的硬件和数据中心基础设施到底撑不撑得住。 上周，微软和谷歌几乎同时发布了新一代人工智能搜索引擎。它们能推理、能预测，还能针对复杂问题生成完整的答案——就像ChatGPT写论文那样，直接给你一段详尽的回复。微软把AI塞进了Bing，让搜索框能直接响应文本查询；谷歌则计划把AI铺到文本、图像、视频搜索的每一个角落。两家公告连发，火药味十足。 但有一个常识：没有强大的硬件基础设施，这一切都只是空中楼阁。两家公司都心知肚明，但谁也没把驱动AI计算的硬件细节全盘托出。事实上，微软和谷歌已经秘密培育AI硬件多年，就等着像上周这样的重磅时刻拿出来秀。然而，它们手里的AI计算基础设施截然不同，而响应速度和结果准确性，将成为检验搜索引擎生存能力的硬门槛。 谷歌的Bard，背后跑的是自家的TPU（张量处理单元）芯片——这一点已经得到熟悉公司计划的消息人士证实。而微软则强调，Azure中的AI超级计算机（很可能是基于GPU运行）能在毫秒级——也就是搜索引擎能接受的延迟内——返回结果。于是，谷歌TPU与AI市场老大Nvidia之间的计算对决，有了一场公开的擂台赛。Nvidia的GPU目前仍统治主流市场。 「团队负责在全球范围内为机器和数据中心提供动力和建设。我们精心编排和配置了一组复杂的分布式资源，构建了新的平台部件，旨在以前所未有的方式帮助负载平衡、优化性能和扩展。」微软Bing产品负责人Dena Saunders在发布会上这样描述。 微软使用的，是OpenAI ChatGPT的更高级版本。OpenAI的CEO Sam Altman在微软活动上估算，每天有100亿次搜索查询。微软为了让Bing具备AI能力，搭建了它自己的AI超级计算机——公司声称这是全球最快的五台之一，不过它并未进入Top500榜单。 「我们称之为AI超级计算机，这花了数年时间，需要大量投资来构建规模、速度和成本——这些都要引入到堆栈的每一层。」微软执行副总裁兼首席财务官Amy Hood在上周与投资者的电话会议上表示，「我认为……我们的运营规模非常不同。」她还补充说，随着规模扩大和优化落地，AI超级计算机层的计算成本会持续下降。「当然，每次搜索交易的成本往往会随规模扩大而下降，我认为我们从一个非常强大的平台起步，这一点是能做到的。」 实际上，随着GPU部署增多，计算成本通常会上升——冷却和其他支持基础设施也在烧钱。但公司通常会把收入与计算成本挂钩。微软的AI超级计算机是与OpenAI合作建造的，拥有285,000个CPU核心和10,000个GPU。去年11月，Nvidia签署协议，将数万个A100和H100 GPU放入Azure基础设施。 根据Statcounter的数据，Bing的搜索份额几乎无法与谷歌抗衡——谷歌在1月份占据了93%的市场份额。差距巨大。 人工智能从根本上讲是一种基于推理和预测的计算方式，而传统计算围绕逻辑运算展开。AI跑在能做矩阵乘法的硬件上，传统计算则依赖擅长串行处理的CPU。谷歌采取了谨慎策略，将Bard对话式AI定位为LaMDA大型语言模型的轻量版。LaMDA是谷歌对抗OpenAI GPT-3（ChatGPT的底层模型）的自主产品。 Technalysis Research首席分析师Bob O'Donnell认为，支撑AI搜索的基础设施建设还在进行中，微软和谷歌都有大量问题需要解决。他上周在Bing AI发布会上和微软基础设施团队聊过，得到的印象是：微软很清楚AI计算在快速演进，并且愿意测试和使用新硬件。「他们还明确表示：'我们正在尝试一切，因为一切都在变。连我们现在做的事，未来也会变。'」对微软来说，拥有一个更灵活的计算平台，「比在某个特定任务上一定要快5%」更重要。「他们承认：'看吧，我们将在接下来的30天内学到很多东西——人们开始使用它，我们才能看到真实负载。'这是一个动态的、不断变化的东西。」比如，微软可能会摸清用户搜索请求的高峰时段；在低占用期，可以把输出推理的任务切到需要更多GPU的训练部分。 谷歌的TPU最早于2016年推出，一直是该公司AI战略的关键。它是当年AlphaGo击败围棋冠军李世石的核心硬件，LaMDA大语言模型也是为在TPU上运行而开发的。谷歌的姊妹组织DeepMind同样在用TPU做AI研究。 SemiAnalysis创始人Dylan Patel在一份简报中写道，谷歌的芯片「使用内部TPUv4集群，与微软/OpenAI使用基于Nvidia的HGX A100s相比，在基础设施上有显著优势」。他还指出，随着硬件规模和模型针对硬件的优化，成本会逐步降低。 另一边，Facebook也在建设更多AI计算能力的数据中心。新集群将拥有数千个翻跟斗（包括GPU），功率范围在8至64兆瓦之间。AI技术被用来删除不良内容，而计算集群也将驱动公司的元宇宙未来。Facebook还在建造一台配备16,000个GPU的AI研究超级计算机。 Mercury Research首席分析师Dean McCarron表示，现在数据中心普遍在为目标工作负载量身定做，这些负载越来越多地围绕AI应用，GPU和CPU的比例也在变化。云提供商经过漫长的评估周期，挑选最好的CPU、GPU和其他组件，总拥有成本是另一个关键因素。「另一个问题是它有多灵活？因为有些买家可能不想对特定工作负载投入过多，他们不知道未来是否还会出现这种负载。」优先支持AI的数据中心，更倾向于采用Intel、Nvidia和AMD的GPU和CPU。有些人可能会选择备用翻跟斗来处理AI工作负载，但它们可以和GPU、CPU共存。「你总是需要更快的GPU。十年后，数据中心里还会有CPU吗？当然会有。还会有GPU吗？同样会有。」