面壁智能联合清华开源端侧大模型BitCPM-CANN打破手机壁垒
面壁智能联合清华大学等开源低比特大模型BitCPM-CANN。该技术显著降低显存需求，使主流旗舰手机能流畅运行8B级别模型，同时模型能力保留率高达90%以上，系统性验证了低比特训练路线的可行性与工程化潜力，为端侧AI普及奠定基础。
最近，AI开源社区传来一个重磅消息。面壁智能联合清华大学、OpenBMB开源社区，正式发布并开源了他们在低比特大模型训练上的最新突破——BitCPM-CANN。更重要的是，这套技术是在华&为昇腾平台上原生完成的。这可不是一个简单的技术演示，它标志着端侧AI大模型在真正走向轻量化和工程化落地的道路上，迈出了非常扎实的一步。
释放六倍显存红利，打破硬件限制
这次开源的BitCPM-CANN，一口气提供了0.5B、1B、3B、8B四个不同尺寸的模型。与同尺寸的全精度模型进行对比评测后，结果相当令人惊喜。最核心的突破在于，相比传统的BF16精度，这套模型在推理阶段能释放出大约6倍的显存空间。
这意味着什么？简单说，就是运行大模型的硬件门槛被大幅拉低了。尤其对手机行业来说，这无疑是个福音。过去，8B参数级别的大模型对手机配置要求极高，基本是旗舰机型的专属。而现在，得益于这6倍的显存红利，主流旗舰手机也能轻松、流畅地跑起这类大模型了。这种对内存空间的极致优化，将直接为端侧AI技术在移动设备上的普及和商业化落地按下加速键。
高能力保留率，证实工程可复现性
当然，光省内存还不够，性能不能丢。BitCPM-CANN在“瘦身”的同时，展现出了极高的能力保留率，范围在90%到97.2%之间。具体来看，1B、3B、8B这三个主要尺寸的模型，能力保留率都稳定在95.7%至97.2%的高位。即便是最小的0.5B模型，其保留率也稳稳超过了90%。
这个评测结果意义重大。它系统性地证明了低比特训练这条技术路线，不仅可行，而且具备极强的可扩展性和工程可复现性。为了支撑这条路线，面壁智能已经基于相关主干，搭建起了一套完整的低比特训练底座。这套底座涵盖了环境适配、32K长序列支持以及融合算子等完整的工程体系，相当于为后续所有面向昇腾平台的低比特训练工作，打下了一个坚实可靠的公共基础设施。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：面壁智能联合清华开源端侧大模型BitCPM-CANN打破手机壁垒要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点面壁智能聚焦端侧AI，不拼参数大小，而是通过知识密度提升与模型风洞技术，将大模型压缩至手机、汽车等设备。其MiniCPM以2B参数超越同期8B对手。CTO曾国洋22岁主导训练中国首个大语言模型CPM-1。端侧AI追求“默契系统”，在用户开口前预判需求，已在吉利、上汽大众等车型落地应用。
印度IT巨头HCLTech投资最高350亿卢比建设AI数据中心，容量可扩展至50MW，提供从设计到运营的端到端服务，旨在满足政府及企业日益增长的算力需求，抢占印度快速增长的数据中心市场，并推动AI基础设施布局。
小米具身机器人在汽车工厂自攻螺母上件工站实现双侧作业成功率98%，接近人工水平。同时在新工站分别达到90%成功率，从单一操作拓展至多工站协同，验证了具身智能在复杂工业环境的落地能力。
全球AI行业正迎来新的财富格局，DeepSeek创始人梁文锋凭借其公司的迅猛发展，个人财富急剧膨胀，一举超越多位硅谷知名人物，成为全球AI公司领域的新首富。以下将详细解析其身价飙升背后的关键因素及公司发展历程。 一、身价飙升至360亿美元，超越多位AI大佬 根据最新彭博亿万富豪指数，DeepSeek
- 日榜
- 周榜
- 月榜
热点快看