当前位置: 首页
科技数码
端侧AI的密度法则与昇腾算力协同实践

端侧AI的密度法则与昇腾算力协同实践

热心网友 时间:2026-03-30
转载

过去几年,大模型行业的注意力更多集中在云端,关注参数规模、推理速度或者能力榜单,而如今,客户关心的不是模型能不能更“强”,而是能不能在真实算力条件下跑起来,能不能稳定服务用户,能不能把成本压到一个可控范围里。在华为中国合作伙伴大会 2026 的现场,面壁智能联合创始人& COO 雷升涛、华为制造与大企业军团软件与ICT企业总经理孙健在接受媒体采访时,为行业揭开了答案。

过去几年,大模型行业的注意力更多集中在云端,关注参数规模、推理速度或者能力榜单,而如今,客户关心的不是模型能不能更“强”,而是能不能在真实算力条件下跑起来,能不能稳定服务用户,能不能把成本压到一个可控范围里。

在华为中国合作伙伴大会 2026 的现场,面壁智能联合创始人& COO 雷升涛、华为制造与大企业军团软件与ICT企业总经理孙健在接受媒体采访时,分享了双方在端侧大模型领域的技术协同成果,让端侧大模型从实验室走向实际应用。

密度法则:破解端侧模型瘦身难题的核心逻辑

大模型的发展长期依靠规模法则(Scaling Law)推动,不断扩大训练数据和模型参数来提升模型能力。但当大模型向端侧延伸,算力、内存、功耗的三重约束,让单纯的参数堆砌失去了实际意义。面壁智能率先提出的密度法则,为端侧大模型的发展找到了另一条路径。

雷升涛在采访中详解了密度法则的核心内涵,模型能力密度每 3.3个月翻一番,这意味着同等能力的模型,在 3.3 个月后仅需要一半的参数就能实现。

这一法则在面壁智能小钢炮系列模型的演进中得到了反复验证,从 MiniCPM 2.4B,到后续 4B、9B,再到最新的 MiniCPM-o 4.5,每一代模型都实现了同等参数下性能更强,同等性能下参数量更小的突破。MiniCPM-o 4.5 更是凭借 9B 参数规模实现了全双工全模态能力,而达到同类能力的云端模型,通常需要几百亿的参数规模。

密度法则的落地,并非简单的模型压缩,而是需要在架构、算法、推理、数据、训练等多个不同维度的同步创新,才能实现“瘦身不降智”。

在雷升涛看来,密度法则更是带有中国特色的规模法则。在算力资源有限的背景下,通过知识密度的提升,用算法、数据和架构的创新实现模型能力的突破,让模型越做越小,让 AI 的普及成为可能,这正是 AGI 发展的重要路径。而从云端蒸馏模型做端侧的方式,会导致模型的支持密度不断降低,难以适应端侧场景的实际需求,这也让密度法则的技术价值更加凸显。

软硬协同,华为与面壁的技术协同

端侧场景的限制远比想象中严苛,算力不高、功耗敏感、温控紧张,推理链路的任何浪费都会被成倍放大。

从 2024 年开始,面壁智能与华为开始合作。早期双方从模型适配开始,让 MiniCPM 系列可以在昇腾芯片上运行,然后到推理优化阶段,通过算子融合、内存复用等技术提升速度,双方联合发布性能数据,这一过程并不轻松。

华为为面壁智能提供了坚实的底层算力支撑,而面壁智能则基于密度法则实现了模型的“瘦身不降智”,二者的技术路线形成了天然的互补。

而面壁智能选择与华为深度合作,源于技术、服务与场景的三重契合。雷升涛指出,端侧模型的落地需要与芯片高度适配,从云端 FP16 精度到端侧 4 bit、2 bit的量化,双方深度的协同优化则让模型的推理速度更快、功耗更低,让模型在发布的同时就完成了算力适配,能够以最快的速度服务市场和客户。

从汽车场景到具身智能,端侧 AI 开启规模化应用

技术的创新最终要落地到实际的商业场景中,端侧大模型在多个行业实现了规模化落地,而汽车则成为端侧 AI 落地最快、需求最迫切的领域。

雷升涛表示,汽车领域的智能化趋势,让智能座舱成为用户体验的核心,而面壁智能的端侧模型已经在吉利、长安马自达等多款量产车型上落地。

汽车场景的特殊性,让端侧模型的价值得到了充分体现,在地下车库、隧道等无网络环境中,端侧模型的离线可用、毫秒级响应能力,解决了云端模型的痛点,而隐私安全的特性也契合了车载场景的需求。用户在车上的停留时间长,对交互体验的要求高,端侧 AI 带来的体验提升直观可见。

除了汽车,手机、智能家居也是面壁智能端侧模型落地的重要领域。随着端侧算力的不断提升,模型能力密度的持续突破,会有更多的端侧场景拥抱大模型技术。

对于端侧 AI 的未来“爆款应用”,雷升涛比较看好具身智能。目前的机器人本体发展迅速,但缺少真正的“大脑”,缺乏与真实世界的感知交互、任务规划执行能力和泛化能力。而面壁智能的 MiniCPM-o 4.5 具备类人感知与交互能力,可以补齐具身机器人的大脑能力。雷升涛表示,接下来端侧模型落地到具身智能,会带来一些杀手级的应用,以及更广泛的应用场景。

协同共赢为中国端侧 AI 发展奠定基础

孙健表示 ,“我们的合作在技术路径、生态构建和产业安全三个维度为行业提供了标杆示范。”

特别是华为硬件开放、软件开源的策略,与面壁智能的技术创新相结合,激活了开源开放的生态,大幅降低了开发者进入端侧 AI 领域的门槛。

面对 AI 模型和应用的爆发式增长,华为通过算力底座升级、全栈工具链开放、生态深度协同、安全保障四大核心路径,为软件高科技企业提供从技术研发到商业落地的全生命周期服务,帮助企业在 AI 浪潮中构建核心竞争力。

端侧 AI 的真正挑战不在于模型参数,而在于工程能力、生态基础和产业协同。面壁智能与华为的探索,让我们看到了端侧 AI 的无限可能,而这种协同共赢的模式,也将成为中国 AI 产业发展的核心竞争力,推动 AI 技术真正融入千行百业。

来源:https://www.51cto.com/article/839154.html

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
4月规上工业原油产量1794万吨 同比增长1.2%

4月规上工业原油产量1794万吨 同比增长1.2%

国家统计局最新发布的能源数据显示,四月份我国原油生产与加工领域呈现出截然不同的发展态势。总体来看,上游生产保持稳健增长,而下游加工环节则面临一定压力。 从生产端来看,四月份规模以上工业原油产量达到1794万吨,同比增长1 2%,增速较三月份提升1 0个百分点。日均产量约为59 8万吨,生产节奏稳步加

时间:2026-05-18 18:08
iPhone 18 Pro手机壳曝光 相机模组尺寸或进一步增大

iPhone 18 Pro手机壳曝光 相机模组尺寸或进一步增大

知名爆料人分享了iPhone18Pro系列保护壳图片。设计延续前代风格,但相机模组尺寸可能进一步扩大,机身或略增厚,导致新保护壳与旧款不兼容。屏幕尺寸预计保持不变。综合信息显示,该系列更像是前代的强化升级版,重点在于内部性能与影像系统的提升。

时间:2026-05-18 18:08
百望股份与中关村两院战略合作共建产学研创投生态

百望股份与中关村两院战略合作共建产学研创投生态

百望股份与中关村学院、中关村人工智能研究院达成战略合作,共建产学研创投生态。依托百望的真实企业交易数据与两院的科研人才优势,在合规前提下挖掘数据要素价值。双方聚焦财税金融领域,利用AI技术研发智能应用,并通过共建数据沙箱、人才通道与共创机制,推动数据智能从学术创。

时间:2026-05-18 18:08
小米SU7 GT发布会5月21日举行 多款新品同步亮相

小米SU7 GT发布会5月21日举行 多款新品同步亮相

小米创始人雷军宣布,小米YU7GT将于5月21日晚7点发布。新车定位纯血GT,拥有修长车头、跑车宽体设计,最大马力1003匹,续航705公里。同场还将推出小米17Max手机、耳夹式耳机等多款生态新品。雷军解释,YU7GT侧重长途旅行与日常使用平衡,其纽北测试旨在验证极端条件下的整车性能。

时间:2026-05-18 18:08
英伟达洽谈领投印度AI初创公司Simplismart

英伟达洽谈领投印度AI初创公司Simplismart

英伟达正洽谈领投印度AI初创公司Simplismart,计划投资约2000万美元,投后估值预计达1亿美元。该公司专注于生成式AI和MLOps,若交易达成,其估值将在数月内从2500万美元跃升近四倍,增长迅猛。英伟达今年在AI领域投资已超400亿美元,持续扩张其生态布局。

时间:2026-05-18 18:08
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程