端侧大模型成刚需，芯片准备好了吗

在2026年WAIC现场，一个显著的感受是：大模型正逐步走出互联网和聊天框的局限，开始投身于更加实际的场景应用。

两年前，行业还在同一条赛道上比拼——参数越大越好，集群规模越强越优，谁在数据中心里堆叠的GPU数量多，谁就是赢家。这套逻辑至今依然成立，但它只揭示了故事的一半真相。

另一半，发生在云端之外，正在悄无声息地成长。

真正的转折点，源自Agent的爆发。人们突然发现，推理任务正在大规模离开数据中心，下沉到PC本地、手机本地、机器人的大脑，以及更多难以命名的终端设备中。这些终端形态千差万别，但都面临同一个“不可能三角”：功耗仅有几瓦，成本被限制在几十美金，客户却要求它们能够运行几十亿甚至上百亿参数的模型。

芯片行业在过去十年中从未遇到过这样的挑战——云端的规则是不断推高天花板，算力强者通吃；而端边要做的，则是在物理规则的铁笼中，将大模型推理的效率逼至极限。

这道难题，正在重新定义端边AI芯片的竞争规则。

01. 大模型，正在走向端边

但为什么端边大模型一夜之间成为了大势所趋？

最近一段时间，黄仁勋反复强调一个判断：推理算力需求大约需要增长一万倍，Token将成为新的计量单位。数字本身并非关键，量级的变化才是核心。一旦推理变得如此高频、持续，且与账单直接挂钩，完全依赖云端在成本上会越来越荒谬——单次推理调用成本不高，但一天数亿次，这笔账谁都无法承受。

新的推理量级所带来的成本压力，将推动越来越多的计算向端边迁移。

中国市场对这一趋势的反应比海外更为迅速。大量应用方案公司已经主动联系芯片厂商，要求提供本地与云端的混合方案。法律、金融等垂直行业的需求尤为具体，对数据隐私和计算延迟的要求更高，同时对生产力工具迭代的嗅觉也更加敏锐。

相比验证概念，市场更需要的是能跑通、能量产的交付级产品。而从芯片公司的视角来看，水温的变化正在于此：适配端边大模型的AI芯片，很快就会转化为一批批真实的订单。

一家深圳公司提供了一个样本。他们搭建了一个端云混合的Agent平台，上面运行着各行业的智能体，用于日常运营。通过一套算法动态分配任务，实时判断哪些走本地，哪些上云端。系统运行一段时间后，结论是：约80%的任务在本地完成，只有20%走云端，平台还会自动统计客户节省了多少Token费用。

这个数字背后藏着一件事：大量智能体的工作流程，本地算力完全可以承载。而且，无论是终端设备还是更好的AI芯片，客户购置本地算力只需一次性投入，云端的Token账单却要按用量、按月计费。经济账一旦跑通，迁移将不可逆转。

成本只是第一层，延迟是第二层。端侧推理能够实现毫秒级响应，而云端推理则受制于网络环境。对于需要实时交互的Agent来说，延迟是会破坏任务的硬伤。

隐私是第三层。数据即资产的认知越来越普遍，本地处理意味着照片、文件、视频数据始终留在本地设备中，不仅安全，而且离线可用。端边大模型可以联网获取外部信息，但本地数据和处理能力保留在本地，断网也能运行。对于许多需要在网络死角工作的工业设备和移动终端来说，安全可离线是数字化的生死线。

几层变量叠加在一起，揭示了端边大模型价值升维的真正原因：大模型的价值锚点，正从知识密度转向行动密度。一个会聊天的模型，只需要云端的算力和数据就够了；而一个会做事的模型，由于推理频次和持续性大幅上升，带来了更显著的成本和安全问题，就必须向更安全、更灵活、更可控的端边迁移。未来，本地推理能满足的场景，肯定先用本地；本地做不了的，再上云端。

与此同时，端边化的趋势也给硬件端抛出了一道新难题：云端芯片比拼的是“一力降十会”，算力即正义；而端边的游戏，竞争规则不同，比拼的是另一种能力。走向端边大模型的AI芯片，逃不开一个入局门槛：如何解开那个“不可能三角”——能力要求越来越高，要跑更大的模型、更快地处理任务，功耗却只有几瓦，成本卡在几十美金。性能、成本、功耗，三个约束彼此咬合，放弃任何一个，都会让端边大模型失去实用的魅力。

02. 新的终端，新的解法

把这个“不可能三角”从幕后推到台前的，是一批与过去完全不同的终端。

过去几年，AI在终端上的角色很轻，给手机加个修图优化，给PC加个语音助手，就差不多了。芯片厂商的应对措施也是轻量级的，Intel在Panther Lake里塞一点GPU或NPU，高通在骁龙中集成一个NPU，属于对PC品类的锦上添花。

但从2025年开始，新的设备形态开始崭露头角。“它们长得不像任何你见过的电脑，可能更像鸡蛋、像花瓶、像路由器。”一位芯片创业者描述客户样机时，用了这样几个比喻。它们的共同点是：不是“为人”设计的，而是为AI和Agent而生的原生硬件。无需触控、键盘，不需要人坐在前面操作，可能也没有屏幕，但可以做到语音和多模态交互，7×24小时不间断运行。它们存在的理由只有一个：让AI Agent拥有一个物理的、持续在线的身体。

这些设备有一个刚热起来的名字：Agent Computer。

联想今年初在拉斯维加斯Sphere发布了全球首款个人超级智能体Qira，英伟达从DGX Spark一路推到RTX Spark。两家巨头的动作指向同一个方向：让Agent Computer从一个概念成长为真实的硬件品类。

WAIC现场：联想AI主机P7

但最终能够决定这个品类主流形态的，可能不是PC厂商，也不是芯片厂商，而是应用场景。单就通用性较强的家庭场景和企业场景而言，目前完全是“两拨人”在做两套不同的设备。家庭需要的是中枢大脑，比如放在客厅，调控灯光、记忆对话、监管老人孩子的看护；企业需要的是生产力工具，跑法律文书、数据分析、代码审查。同一家硬件厂商很难将这两套思路一起做透，同一个芯片架构要覆盖这两种需求，也绝非易事。这也就意味着，端边终端市场天然就是碎片化的。

而终端形态的变异和碎片化，也反过来倒逼了AI芯片的定义。一个不间断承载Agent任务的设备，对本地算力的要求与过去跑一个本地模型完全不同，它需要独立的、能力足够强的NPU，需要大带宽、大存储容量，能处理长上下文的复杂任务。单个任务可能要跑半个小时甚至更久，中间不能断。

新终端将“不可能三角”削得更尖了。所有AI芯片玩家面对的是同一道题，必须把效率做到极致，这一点没有争议。但解法在明显分化。高通和苹果走的是SoC延展路线，在原有ARM架构上加NPU，好处是生态成熟，数十亿设备已经在运行，但改良的天花板就在头顶上，常规架构哪怕堆到3纳米、2纳米的先进工艺，递减的制程红利也带不来质变。英伟达从GPGPU往下延伸，算力储备不是问题，但三十年的CUDA生态既是护城河也是历史包袱，带着一整套为云端训练优化的架构往端边挪，跟背着一座山下山差不多。

在巨头们的路径分野之间，出现了第三条路：存算一体。存算一体的本质是从架构层面重新设计，打破计算和存储的物理边界。传统芯片的瓶颈在于数据在计算单元和存储单元之间来回搬运，功耗和时间都耗在路上；存算一体的解法是直接在存储单元里做计算，搬数据的开销被压到最低。相比生态延展的路线，这条新路前期走得会更慢、更难，需要一遍遍test chip，解决没人碰过的量产问题。但优势在于，新架构的效率优势是结构性的，天花板上限也会更高。

押注这条路的芯片玩家不多，正是因为海外巨头舍弃不了生态游戏。在敢于做架构创新的厂商中，国产玩家的身位反而很突出。成立于2020年底的后摩智能，算是其中跑得更早、存算一体路线更坚决的一家。到了端边大模型和Agent Computer这个时间拐点，芯片厂商的起点基本一样——不像做手机基带，或者云端训练芯片，海外已经领先了十年。端边芯片的竞争中，国产并非完全没有先发优势，反而有机会在量产和行业落地的速度上，拿到身位的先机。

03. 端边芯片的竞争，才刚打响

端边AI芯片是一条刚拉开序幕的赛道，但选手们已经加速进场了。

目前的格局大致可以分三类：高通和苹果这类SoC巨头，生态成熟，出货量巨大，但端边大模型对他们来说还是增量需求，改良基因决定了能力上限。高通最近也在做独立NPU，说明它自己都清楚，集成方案不够用了。英伟达凭借GPGPU的算力势能从云端往下走，1 PetaFLOP的AI算力扔到消费级设备中，火力是足够的，但端边的功耗和成本约束，是英伟达过去三十年几乎不需要严肃对待的问题，却也是当下真金白银的市场需求。第三类则是像后摩智能这样专注端边的新玩家，缺点是没有量产经验和生态积累，但与此同时也没有历史架构包袱，可以直接从终端的真实需求出发重新设计芯片。

显而易见，最适合创业公司扎堆的第三类路径，其战略决策更值得解构。

以存算一体路线切入端边大模型的后摩智能，就是一家典型的“战略决定身位”的公司。创始人吴强早在2023年下半年就做出了一个判断：大模型会从云端向端边迁移。当时，Agent还没有出现，这个判断可以说没有太多证据。大模型的主战场还在云端，国内六小龙都在卷参数和集群规模。存算一体作为架构路线，做端边大模型有点像“横着切了一刀”。但吴强盯住了两个信号：智谱出了6B模型，Llama出了7B模型，大模型不再是几百B参数巨兽的专利，小模型也能跑出实际可用的效果，在很多场景中避免“大炮打蚊子”。团队拿存算一体架构试跑了一下本地大模型，跑得相当好。既然如此，提前布局端边大模型，对于做存算一体起家的后摩来说，就成为了一件顺理成章的事。

这个预判在两年后得到了密集验证。2025年DeepSeek R1横空出世，端侧部署大模型的技术门槛被大幅拉低；2026年Agent一波落地爆发，大量硬件公司涌入做Agent Box、Agent Computer，ToC、ToB、To家庭的都有，而以上所有硬件厂商都需要解决一件事：找性价比最高、能量产的芯片。后摩因为提前两年做了布局，吃到了第一波红利：因为市场上当时能选的成熟方案不多，战略和技术路线上的先发优势，实实在在地转化成了客户和订单。

产品性能层面，后摩漫界M50用存算一体做到160 TOPS，功耗约10瓦，单芯片能跑35B到120B参数的模型，覆盖AI PC、机器人、边缘推理等场景。半年到一年前，端边芯片还只能跑7B模型，今天已经可以跑到120B的参数，重新标定了端边的能力边界。

WAIC现场：后摩漫界M50

另一个佐证是，后摩漫界M50已经走到量产级。在AI PC方向，后摩先后进入了联想和长城的供应链：联想AI主机P7搭载M50全球首发，长城N90 Pro也用M50打出了端侧算力的卖点；操作系统层面，后摩漫界M50完成了与银河麒麟操作系统V11的深度适配；在端边大模型这条赛道上，后摩还与中国移动达成了链长生态层面的合作，客户场景正在从Agent Computer向具身机器人、端边推理和智能移动终端延伸，量产订单已经开始转化。

WAIC现场：长城N90 Pro笔记本

不过，虽然从芯片巨头到带着新架构加速入场的创业公司，都已经给出了自己的解法，但再把视角拉远一点，端边AI芯片的竞争还处于早期，接下来可以分成两个阶段来理解。第一个落地阶段，比拼的是效率，也就是谁能在功耗、成本、面积的物理约束下，将大模型本地推理的能效推到极致，这是硬碰硬的工程能力比拼，花架子和长期叙事在这个阶段没有用。而再往远看，在效率也逐渐收敛之后，第二个阶段比拼的就会是生态和场景适配。也就是说，回到了英伟达的舒适区，考验的是谁的工具链更完整，与主流模型框架的适配更顺滑，更快地帮客户把方案跑起来，长期来看仍然能拉开越来越大的差距。

在第一阶段，存算一体因为从架构层动了刀，天然在效率和功耗上有结构性优势，但这个窗口期也不会一直持续下去。好在，国产厂商在这条赛道上的起点和海外是平的，对后摩来说，凭借架构的独特性和提前布局，在国内外都具备站进第一梯队的条件。

但行业也清楚，端边大模型现在还处在向行业价值过渡的时期。AI NAS怎么做，home center怎么做，企业端的推理设备怎么做，大部分人都在摸索，中间一定会有起伏，也一定会出现大量掉队的人。2023年，大家还只有一点Agent的概念，到了2025、2026年至少看到了场景，而从看到场景到规模化落地，中间还有一段长路要走。

未来两年，端边场景里一定会跑出Killer App，会孵化出大模型原生的应用形态。生产力工具、更聪明的智能家居和情感陪伴可能最先跑通闭环，面向大众的普惠应用则是下一步。不过，就像移动互联网时代才出现了美团、滴滴和抖音，我们当下其实很难真正想象，未来能改变人类生活甚至就业方式的主流应用会长什么样，经济价值又会是如何滚动起来的。

在这场竞赛里，芯片是基础设施。先落地、先跑通的算力底座，就能拿到下一阶段的入场券。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：端侧大模型成刚需，芯片准备好了吗要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题