ChatGPT引爆AI流量爆炸，企业如何化解危机

在过去六个月里，人工智能应用的爆发式增长有目共睹——ChatGPT、Dall·E、Bard、Bing……名单还在拉长。单是ChatGPT，上线两个月就冲到了1亿月活用户。这增长速度，不得不让人重新审视AI背后的基础设施到底承不承受得住。

网络I/O瓶颈

AI流量的爆发式增长把网络和分布式计算的基础设施逼到了极限。有一家叫Enfabrica的公司2020年就瞄上了这个方向。他们的核心判断是：现代高性能分布式计算，卡就卡在I/O上。内存容量在涨，GPU性能在飞，唯独I/O跟不上脚步——下面这张图很直观地展示了这个差距。

Enfabrica的CEO Rochan Sankar点明了问题的要害：“AI的挑战在于，海量数据通过100或200 Gig的NIC涌入服务器节点，而这些NIC当初是为和CPU配对设计的。”他进一步拆解出三个核心痛点：

资源滞留严重——CPU虚拟化做得不错，但GPU、内存这些昂贵资源却远远没有被充分利用。现有的I/O设备堆栈效率低下，架构实际上是基于完全不同的需求场景设计的。更成问题的是，有些公司在搞专有方案、封闭系统，背离了以太网、PCI、CXL这些行业通行标准。

解决日益增长的网络I/O问题

Enfabrica的两位联合创始人Rochan Sankar和Shrijeet Mukherjee，背景相当硬——Broadcom、Google、Cisco等巨头出身，网络基础设施领域的经验加起来有几十年。Sankar提到，认识到I/O问题迫在眉睫的人并不少，但关键区别在于，他们相信自己手里有更好的解法。基于这个判断，他们组了团队，直奔互联硅市场，这个市场据估算很快就会冲到200亿美元规模。

Enfabrica设计的核心是用一个加速计算结构，把多层网络基础设施彻底替换掉（见下图）。Sankar把他们的架构比作“轮辐模型”——“CPU、GPU、翻跟斗、内存还是Flash，都可以连到这个集线器上。这个集线器就像一个聚合的I/O结构设备。”

Sankar还特别强调了一个现实难题：引入新的硬件架构已经够挑战了，但软件层也不能动。“从第一天开始，就需要投入大量精力。强行用硬件或网络技术去逼迫软件层改变，其实非常不容易。”所以Enfabrica的策略是，让硬件兼容“现有的这些接口和API集”，正常跑起来就行。

行业标准和开源

行业里其他公司（比如英伟达这个巨头）解决网络问题的路径是专有接口方案。而Enfabrica走的是另一条路——用PCIe、CXL这些行业标准，再配合开源软件框架来解决问题。

Sankar解释得很清楚：“我们提供的是另一种扩展方式。”他们不觉得英伟达会被取代，反而认为“英伟达在相当长一段时间内都会是生态系统的核心”。所以，他们的目标不是替代，而是增强。“我们可以增加一层高容量内存”，让客户“利用它来扩展超大型语言模型”。

第一代ACF

第一代高级计算结构交换机（ACF-S，见下图）是在台积电5纳米FinFET工艺上生产的——这个工艺在一定程度上就是为这类高性能计算应用量身开发的。

ACF-S的设计目标相当明确：在单个硅晶片内，实现异构计算和内存资源之间的多太比特交换和桥接，而且不需要改动设备驱动程序以上的物理接口、协议或软件层。Sankar形象地形容这块交换芯片像个“三明治”，包含“高性能以太网交换管道、一个大型共享缓冲区（所谓的太比特NIC复制引擎），以及高性能PCIe Gen5和CXL 2.0+交换”。

“这些加速计算结构产品，目的就是创建弹性的资源池，可以按需联网和供应，构建更灵活的实例。它能扩展去满足下一代工作负载的需求，而且是以可持续的方式来实现总拥有成本。”——这才是关键所在。

云经济的超级计算机性能

既然目标是要碘伏一个200亿美元的行业，那总得拿点硬指标出来。在Sankar的分享中，Enfabrica的新一代加速计算结构带来的收益相当可观：

AI集群可以从数百个节点扩展到数千个节点
每美元的I/O带宽提升2倍
缓解GPU、DRAM、SSD“卡死”现象，大幅提高利用率
节点到节点的延迟降低75%
AI集群的总拥有成本降低50%
GPU机架和集群功耗至少降低10%

Sankar总结了一个相当有力的判断：如果他们成功了，Enfabrica可以“在高性能超级计算和云规模分布之间搭起一座桥”。而AI正是驱动这些需求的核心工作负载。背后是用户越来越强烈的诉求——“人们想要云经济，但他们想要的是超级计算机的性能。”

Enfabrica计划在今年晚些时候发布更具体的产品信息，可以继续关注。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：ChatGPT引爆AI流量爆炸，企业如何化解危机要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题