WAIC亮点：非Transformer离线AI大模型量产，商业化进程加速

在智能科技飞速发展的今天，RockAI 选择成为一块最坚实的基石。我们坚信，如同构成世界的岩石，坚实而普惠的离线智能，才是构建未来智能世界的真正基础。

离线智能：通往未来的务实之路

自 Yan 大模型首次亮相至今，已过去一年半。您或许未曾留意，搭载其能力的量产设备已悄然进入市场。这使得这家以非 Transformer 架构为核心路线的技术公司，成为端侧人工智能领域一个不可忽视的重要力量。

访问 RockAI 官网，最醒目的标语揭示了其宏大愿景：“让世界上每一台设备拥有自己的智能”。深入解读，其中“每一台设备”与“自己的”这两个关键词至关重要。

“每一台设备”意味着技术必须具备极致的兼容性、更优的成本控制以及普惠的落地能力。而“自己的”则指向了具备自主进化能力、能够持续学习并与环境广泛交互的智能终端。

这不仅标志着 RockAI 选择了一条与主流技术不同的发展路径，更意味着它没有盲目追求理论性能的极限，而是踏上了一条更注重实际应用与广泛落地的务实道路。

然而，RockAI 联合创始人邹佳思并不认同这是一条“小径”。在他看来，端侧是一个潜力无限的广阔市场，是满足全球绝大多数用户真实需求的智能形态。这不仅是基于发展中国家的人口现实，更关乎构建一种更“体面”、更自主的人机交互关系。

“离线”正是这种“体面”关系的核心体现。作为端侧智能的天然属性，离线意味着智能完全归属于用户。数据无需上传至遥远而陌生的云端服务器，而是安全地存储在用户最熟悉的个人设备中——无论是贴有可爱贴纸的手机，还是设计精良的笔记本电脑。

诚然，实现高性能的端侧离线智能充满挑战，但仅仅实现离线还不够。道路虽需开拓，但方向既已明确，便需坚定前行。

邹佳思坦言，自 Yan 1.3 发布以来，团队的核心工作就是不断“踩坑”——攻克技术难题，探索落地场景。正是这些扎实的实践，换来了 Yan 在量产设备上的成功部署，以及如今 Yan 2.0 Preview 版本的亮相。

过去一段时间，市场持续关注：Yan 2.0 何时到来？它将带来哪些变革？在今年的世界人工智能大会（WAIC）上，RockAI 给出了初步答案。

这符合公司一贯的务实作风。Yan 2.0 Preview 是其第四代产品，历经 1.0、1.2、1.3 的持续迭代。他们拒绝像行业内常见的那样，仅凭性能指标来粗暴划分代际。

然而，这或许是 RockAI 目前最接近其使命的一款产品。据邹佳思介绍，Yan 2.0 Preview 主要在两大方面实现了关键突破。

首先是视觉感知能力的显著跃升。团队针对视频模态创新采用了稀疏取帧策略，有效降低了时序冗余。随后，通过视觉编码器对关键帧进行编码生成视觉 Token，并运用 Token Merge 策略削减语义冗余，从而大幅压缩了视觉 Token 序列的长度。这使得 Yan 2.0 Preview 具备了比前代更连贯、更精准的视频理解能力。用邹佳思的话说，“过去是识别图像，现在是真的能理解视频内容了”。

但更重要的升级，在于基于“训推同步”架构的自主学习能力。RockAI 通过可微的记忆模块实现信息的动态存储、检索与遗忘。这种设计允许记忆持续更新，特别是通过创新机制实现了记忆强度的灵活调节：既能通过门控更新保留长期依赖关系，又能根据实时输入高效整合新知识。这让模型能够模仿生物大脑，主动筛选信息，牢固记忆关键内容。

以往，“训推同步”往往与昂贵的大型服务器集群绑定。而 RockAI 的尝试，是将这一前沿能力部署到每个人的个人设备上。这在外界看来或许大胆，甚至颇具颠覆性——因为此前少有尝试，其应用前景也充满想象空间。

邹佳思透露，团队正与一些国际领先的玩具公司展开初步探索，构想能够自主学习的下一代 AI 玩具。儿童可以与玩具对话、发出指令，而玩具则能持续学习成长，最终成为孩子独一无二的智能伙伴。

“我们发布 Preview 版本，也是希望汇聚更多上下游的真实需求，”邹佳思表示，“我们坚信它有极其广阔的应用前景。”而“广阔”二字，意味着其潜力绝不仅限于玩具领域。

如果说 1.0 是纯文本模型，1.3 是具备了图像与音频理解的多模态模型，那么 2.0 的目标，则是成为一个能看懂视频、能自主学习、实现实时自然交互的全新智能底座。

核心在于场景落地

“攻克技术难题”只是 RockAI 过去一年工作的一个侧面。相比之下，“探索落地场景”是更为艰巨的挑战。

邹佳思对场景落地之难深有体会。从技术演示到产品落地存在鸿沟，而要实现规模化量产，更是难上加难。

如果说将 Yan 1.2 成功部署到树莓派上是技术手册中的一个里程碑，那么 Yan 1.3 发布后，成功获得某头部出海硬件公司的订单，无疑是商业拓展上迈出的坚实一步。

邹佳思至今记得，当合作伙伴将搭载 Yan 1.3 能力的 PC 展示给海外经销商时，对方所表现出的震撼与兴奋。甚至一些行业巨头公司的代表，也专门来到展台前，探询离线端侧功能的具体实现方案。

“离线”的重要性，远超许多人的想象。

“离线端侧大模型在海外市场存在非常旺盛的需求，”邹佳思指出，只是其中许多需求尚未找到最优的技术解决方案。

首先，对于出海硬件企业而言，海外复杂多变的信息安全与隐私保护政策是首要挑战。端侧方案能够从根本上规避因数据上传云端所带来的政策风险与高昂的合规成本。“海外市场对隐私话题极其敏感，”邹佳思解释道，“不同国家的个人信息保护法律和监管机制千差万别。若采用云端方案，厂商就必须逐一应对每个国家的法律壁垒。”

此外，全球错综复杂的网络环境也是关键考量。当前世界主要人口生活在发展中国家，其中农村人口占比巨大。根据国际电信联盟 2022 年报告，欧洲和北美国家的互联网普及率高达 80% 至 90%，而在阿拉伯国家和亚太地区，这一比例降至约三分之二。在非洲，互联网普及率仅为 40%，在最不发达国家甚至更低。城乡差异同样显著：全球城市居民在家上网的比例为 82%，而农村地区则低得多。

这份报告仅涉及网络覆盖率，尚未触及更复杂的网络质量和资费问题。RockAI 的愿景是服务于“每一台设备”，这个定语前面没有地域或环境的限制，就是最朴素的“每一台”。

“很多设备连 NPU 甚至 GPU 都没有，只有 CPU。你要如何将大模型高效运行其中？目前，只有 RockAI 能够提供成熟的解决方案。”邹佳思的语气中充满信心。

从某种程度上说，未来一些海外用户接触到的第一个人工智能大模型产品，很可能就是 Yan。这或许也能解释，为何 Yan 2.0 Preview 的合作伙伴的经销商们，会对一台搭载离线 AI 的 PC 产品感到如此惊讶。

“他们从未见过这样的产品，”邹佳思说，“不需要连接网络，直接就能在中低端 CPU 设备上流畅运行的 AI 产品，这确实是前所未有的体验。”

为了确保量产项目的成功，RockAI 投入了巨大资源。这或许不能简单称之为投入，更像是一场笃定的战略投资，其背后是一种独特的市场哲学：“标杆战略”。

RockAI 向来被认为是一家不热衷于追逐各类评测榜单的公司。“我们会进行必要的测试，但不会刻意去‘刷榜’，”邹佳思说。公司并非完全排斥榜单，只是对部分榜单的实际价值持有审慎态度。未来，团队会选择一些权威、严肃的榜单参与，以便业界更直观地了解 Yan 的能力。但即便如此，“重点也绝不会放在这里”，因为 RockAI 是一个着重场景落地的团队，其业务逻辑核心是打造具有示范效应的“标杆案例”。

“就像当年 ARM 与德州仪器、诺基亚的合作——德州仪器将那时尚不知名的 ARM 架构推荐给诺基亚，希望在其设备上尝试。ARM 花费了巨大精力说服诺基亚，最终诺基亚的采纳，不仅成就了其当时的手机霸主地位，也奠定了今天 ARM 的生态帝国。”邹佳思以此类比。

RockAI 或许并未奢望立刻遇到像诺基亚那样具有转折意义的合作伙伴。邹佳思对“标杆”的期待，是一个真正跑通、可见、并能最终交付到用户手中的具体应用场景。

团队对潜在的标杆客户极为重视。邹佳思回忆，之所以能拿下那家头部公司的订单，部分原因在于他们是唯一带着可运行的真实样机前往客户公司进行演示的团队。

“一个见面两周前临时采购的酷睿 i5 迷你主机，现场接上麦克风和显示器，调试了十几分钟，”邹佳思描述着那个令人印象深刻的场景，“现场其实有些忙乱。但其他厂家大多带着精美的 PPT，只有我们带了真机样品直接进行功能演示。”团队甚至没来得及做完整的公司介绍，对方就已表现出浓厚的合作兴趣，回过神来才问：“贵公司是什么时候成立的？”

尽管 RockAI 是这家头部公司接触时间最晚的供应商，却最终赢得了合作。于是，才有了开头那些激动的海外经销商和前来探听虚实的行业巨头。

评测分数或许可以通过优化获得，但用户的真实体验是诚实的，商业订单更是如此。设备量产是 RockAI 商业化的起点，也是 Yan 生态构建的基石。

坚守赛场，布局未来

毫无疑问，RockAI 正在与行业巨头同行。就像故事中的大卫面对歌利亚，手中握着的同样是几块石头。大卫用投石索，让石头在旋转中积蓄起小而强大的动能。

当然，Yan 所代表的路径与庞大的 Transformer 生态之间，并非简单的替代关系。它们更像是一条奔涌的河流与浩瀚的海洋，各自奔流，又共同塑造着智能的版图。

但对于一个以闭源模型为核心的生态而言，发展节奏的把握至关重要。因为它既要构建坚实的技术底层，又要探索丰富的上层应用；既要优化人机交互体验，又要完成广泛的硬件底层适配。必须在技术创新与场景落地之间反复摸索，踏平一个又一个难关。

邹佳思透露，过去一年，RockAI 团队已扩张至近百人规模，其中绝大部分是研发人员。

对一家商业公司而言，所谓节奏，无非是明确哪些要加速推进，哪些可以稳步进行；哪些必须全力投入，哪些可以暂时搁置。

邹佳思并不愿简单地将 RockAI 定义为“闭源”模型公司。他表示，公司有自己的开源计划与节奏，部分安排可能尚未对外公布，但已向核心合作伙伴（如芯片厂商）开源了部分底层代码，这能极大降低 Yan 在特定硬件平台上落地的技术磨合成本。

有些事情，RockAI 确实选择了暂缓。例如“文生图”功能。邹佳思认为，设备端的核心智能诉求集中在环境感知、决策制定和行动执行这三个闭环环节。“就像人脑一样，”他比喻道，“人脑通常不会直接输出一幅图像，而是指挥双手使用工具去创作。Yan 的设计哲学也是如此，更侧重于感知与决策。”

而另一些更具远景、虽未大规模落地但代表行业趋势的方向，邹佳思给团队的要求是：必须“留在牌桌上”。

在邹佳思看来，机器人就是这样一个至关重要的未来场景，是 Yan 必须争取“留在牌桌上”的关键赛道。他认为，Yan 的架构天然适合与机器人结合，因为它不以内容生成为主，而是专注于环境感知与认知理解的多模态能力。在内部实验中，团队发现基于 Yan 的架构已经能够初步实现对人类动作轨迹的学习与复刻能力。

“这次我们在展台上展示了一个灵巧机械手，可以完成一些精细操作，”邹佳思举例说，“还有机器狗，能够学习并模仿人的简单动作。”

在 RockAI 的长期构想中，Yan 将成为一个横跨上至无人机、下至机器人，大到手机电脑等核心算力设备，小到智能眼镜、陪伴玩具等探索型设备的统一智能底座。让每一台设备都成为 Yan 分布式算力网络中的一个智能节点，共同构成通向“群体智能”未来世界的现实路径。

谁说小小的石头，不能垒成智能世界的高山呢？