DeepSeek时代智能硬件能否带来新GPT时刻

开年以来，DeepSeek-R1推理模型直接把AI浪潮推到了新高度，各行各业都在快速跟进落地。智能硬件在大模型时代涌现出了全新的形态——计算能力怎么演进？大厂该如何布局，才能应对计算平台的变迁？前不久的一场行业对话中，几位资深专家围绕这些问题展开了一场干货满满的讨论。以下是核心观点整理。

技术演进驱动产品创新

主持人（王松）： 过去这一年，有没有哪款智能硬件或者产品形态让你们觉得“这个真的不一样”？核心技术上有哪些本质提升？

古鉴（李未可科技）： 字节的Ola Friend让我印象深刻。一开始并没太关注，但买来用之后发现体验相当顺畅——尤其是跟大模型交互，和豆包对话的速度、流畅性、唤醒能力，还有降噪效果，都让人满意。可以说它是一个大模型的入门级产品，但确实达到了我对AI硬件的期待。

主持人： 你平时的使用场景是什么？

古鉴： 听歌、问问题，我家孩子也喜欢跟豆包聊天。

张广勇（网易有道）： 我并没有特别锁定某一款产品，但这几年智能硬件的进步很明显。比如AIPC、智能眼镜、人形机器人，还有我们自己推出的词典笔和答疑笔，都已经从理论走向实际应用。最让人感慨的是设备的轻便性、流畅性和质量，进展比预期快得多。尤其是低延迟，彻底打消了对大模型反应慢的担忧——落地到硬件后，用户体验提升了一大截，人与设备的交流自然多了。

主持人： 随着模型压缩、量化等技术发展，哪些过去无法实现的功能现在可以落地到设备端？

古鉴： 我们做了三代眼镜。第一代用安卓系统，把SLAM等技术做到运动眼镜上。到第二代、第三代时，想将复杂算法甚至大模型落地到端侧，难度相当高。比如把一个占几个GB的模型放到手机上，虽然能实现，但功耗和效果还是满足不了基本体验；我们的眼镜只有几十克，挑战更大。要做一款端侧大模型产品，既要满足用户要求，又要在特定场景下顺畅使用，难度确实很高。所以目前我们仍然觉得云端模型是最佳方案。

张广勇： 最初我们的功能集中在查词和翻译，现在已经上线了更多大模型能力，比如AI老师的答疑、语法精讲、单词讲解。落地模式有两种：纯云端，或者云端+本地结合。手机算力跟大模型差距还是大，某些模型跑不了本地，我们就用基座模型加云端计算；而对语音识别、OCR这类需要实时交互的场景，就在本地用算力处理离线任务。另外，我们还上线了纯离线的大模型——虽然没有云端几十B甚至上百B那么大，但0.5B到3B的离线模型已经能支持中英互译、古诗文翻译等任务，单个模型完成多项工作。相比原来离线功能，用离线大模型做翻译，质量提升很明显，已经超过了在线NMT的水平。

主持人： 您说的离线功能是依赖手机端吗？

张广勇： 不是，我们基于词典笔独立运作。词典笔本身有算力，不靠手机，尤其适合学生——家长通常不会把手机给孩子。学生可在户外、教室等地方使用，即使没有网络也能用。

技术实现与跨团队协同

主持人： 智能硬件需要软件、算法、硬件、产品团队深度协作，协作过程中遇到过哪些关键矛盾？如何寻找最佳平衡？

张广勇： 硬件团队追求性能稳定、成本可控、可量产；产品团队更关注用户体验和上市时间，往往要压缩开发周期。硬件开发跟APP不同，除了研发还有量产、AI算法迭代等环节，速度比较慢，所以产品和硬件之间常有冲突。从软件算法角度看，我们希望有灵活的开发能力：在词典笔上部署本地模型，理想情况是本地算力和内存越大越好，但这会大幅增加成本——词典笔市场定位和价格较低，算力、内存远不及手机。在硬件有限的情况下部署多个AI模型挑战大，加上产品团队需求变化频繁，算法迭代就更复杂了。最终目标还是做出一款体验出色的产品，兼顾高质量、低延迟、低成本、低功耗。

古鉴： 硬件产品定义初期很关键。先得明确使用场景，然后做出合理妥协。比如我们设计的眼镜面向大众，必须保证长时间佩戴，外观也要考虑目标人群。功能定义同样重要——如果是重语音交互的产品，就得为眼镜设计降噪、特定词汇识别等功能，同时在电池容量和外观之间找平衡。性能和外观的矛盾难以避免。回到根本：硬件设计的本质，就是围绕使用场景去匹配软硬件能力。

主持人： 有没有因为设备算力限制被迫简化功能甚至模型的案例？如何通过算法优化或硬件适配来破局？

古鉴： 设计过程中确实会舍弃一些功能。现在更多采用分发模型——很多人问我们用了哪家的大模型，其实不是只用一个大模型，而是多个模型的组合：小模型、分发模型、聊天模型、Agent模型。为了确保分发足够快，我们会选较小的模型；但聊天时为了准确性，得用较大的模型，回复速度可能就慢了。怎么解决等待问题？眼镜用户耐心有限，必须在短时间内给反馈。这些都是设计中的难点，尤其是在Agent功能里，不同Agent接入方式甚至涉及不同大模型，复杂程度很高。

主持人： 古老师提到一个关键点——不同功能或场景用不同模型，前置部分相当于你们内部的一个MOE模型。

古鉴： 对。如果只是问个“你好”，却要调用DeepSeek模型，太浪费资源了。关键是怎么分发——分发完后确定调用豆包还是DeepSeek，这样的设计很重要。

张广勇： 词典笔同时用云端和端侧模型。云端用的有道自研“子曰”教育大模型。端侧算力小，比如我们用的词典笔是A53 CPU，比手机芯片弱很多。从第二代到现在的第七代，我们在算法和工程上做了大量优化：蒸馏、MOE、量化，还自己实现了底层计算库，采用混合精度量化，让模型能部署在本地。最初模型小，性能优化不足，但随着优化推进，模型参数量提高了一倍。从2018年至今，离线机器翻译已经优化了多个版本，既提升质量又降低延迟。另外，与上下游紧密合作很重要——尤其跟芯片厂商深度合作，端侧NPU芯片比CPU更强、功耗更低。比如OCR模型从CPU切换到NPU后，模型规模增大15倍，错误率下降60%以上，识别速度提升50%。

用户体验与交互设计

主持人： 如何协调算法性能、硬件能力和用户体验，实现高效的硬件交互设计？

张广勇： 词典笔现在的模型还不是端到端多模态，但用户体验已经是多模态的——用户可通过文本、语音输入，尤其扫描输入效率高，是大家最喜欢的方式。这个探索是逐步的：我们在第七代词典笔上增加了摄像头，让用户用得更好。设计上，原本只提供查词、翻译，形态较长且集中在笔头；随着答疑功能加入，尤其是题目讲解需求，我们发现全屏更适合，就升级成了全屏设计，显示效果和使用便捷度都提升了。

古鉴： 有些厂商会结合戒指或手机来控制眼镜，但我们一直相信一体式设计——眼镜本身的交互方式最完整，核心还是语音交互。语音是所有交互的基础，此外可能在镜腿上增加简单的滑动操作。在语音方面，我们注重识别和指令识别等基础功能，尤其是双芯片设计下的降噪、声源定位优化。还有唤醒词、同声传译中的回声消除、语种区分等，实际场景复杂，所以确定场景后，就围绕它来优化软硬核心能力。

主持人： 很多人认为眼镜是下一代计算平台，您怎么看？

古鉴： 我之前一直在AR行业，现在仍然觉得眼镜无法完全脱离手机。但未来眼镜一定会有自己的算力平台。如果眼镜要适应技术变革，可能会碘伏现有应用商店，取而代之的是类似Agent Store的系统。未来眼镜会具备眼球追踪、SIM卡、摄像头等功能，但要在续航和电池之间妥协，同时保持轻巧（比如低于40克，最好30到35克），是个巨大挑战。这个目标可能还需要3到5年甚至更久。

主持人： 听说Apple Vision Pro 2已经在开发了，它的一代产品成功吗？

古鉴： 第一代不算成功，超过600克，销量没达预期。第二代应该会更注重优化，可能会对标Meta的眼镜，或者采用碳化硅这类新型显示技术。

主持人： 未来多模态感知技术中，AI Infra架构设计有哪些挑战？

古鉴： 我们下个月会推出带摄像头的眼镜。之前已经用它做过多模态应用测试，比如在博物馆识别文物。有几个关键点：多模态传输协议——如何把图片快速传到云端，同时保证速度和低功耗；向量存储——多模态数据存储和文字对齐，也是技术难点。另外，并行计算很重要，传输过程中可能同时要做语音计算。交互模式也会有变化：看到一张图片，系统可能主动告诉你是什么，或者你主动问“这是什么”。如何让这些交互自然流畅，是架构设计的挑战。底层架构的关键部分包括向量存储和多模态传输协议的设计。

张广勇： 从用户角度看，词典笔已经是多模态产品——笔头扫描、摄像头拍照、语音输入。但端到端的方案还是串行的，未来肯定向端到端多模态模型进化。如果是完整的多模态模型，可以直接把拍摄图片传到云端大模型处理；目前我们采用本地+云端结合，先在本地OCR识别文字，只传文字，减少传输量。图片传输和获取技术已经比较成熟，产品上也已落地。未来重点还是云端多模态模型的部署，包括分布式并行计算、数据量分离、量化等。加入更多模态和不同网络结构后，部署会更复杂，需要结合GPU或其他芯片设计开发，在低延迟的同时实现高吞吐量。

场景化应用

主持人： 在教育硬件中，如何通过算法优化和AI Infra支持，确保模型快速响应和高精度知识输出？

张广勇： 关于幻觉问题，我们基于子曰教育大模型，结合RAG、知识库以及多年教育积累和数据来规避。低延迟方面，采用INT8、INT4、FP16等混合量化，用低精度充分发挥本地算力；高精度方面，混合量化很重要——纯INT4精度可能不够，混合INT8和FP16就能兼顾精度和速度。

主持人： 你们端侧OCR识别率怎么样？

张广勇： 常规文本通常能达到98%以上。当然跟使用习惯有关——如果用户没对准扫描区域或没拍好，可能影响识别。这种情况下用户有时会重新扫描。只要扫描到位，常规文本没问题，甚至艺术字、手写等复杂场景，也能保持较高准确度。

主持人： 那OCR场景离线模式已经够用了？

张广勇： 对，大多数情况离线够用。但一些复杂场景，比如复杂公式识别，离线可能因算力限制处理不好，这时会结合在线能力。

主持人： 古老师能否分享具体的算法优化策略或AI Infra架构设计，展示差异化调优实践？

古鉴： 整体速度还是关键。比如部署模型时，我们会先用类似投机采样的小模型做序列探测，再由大模型验证。在设计上，我们注重提升用户体验——跟手机打字不同，用户跟眼镜交互的感觉完全不同。我们设计了分发策略，通过快速处理大量标注语料（系统语料、闲聊语料、指令语料），训练分发大模型。举个例子，用户问天气，系统快速调用天气信息；用户说“我吃饱了想去西湖玩”，系统判断是调用导航还是推荐美食等。这依赖于训练策略——对大量数据标注，整体速度就上来了。用户体验方面，我们在搜索过程中会提示“请稍等”，用户收到类似反馈通常愿意等几秒钟，这时可以提供更好的反馈，提升体验。

主持人： 哪些AI Infra层面的技术创新能有效提升产品场景适应性和用户体验？能否分享一个成功案例，详细说明如何通过算法和AI Infra结合实现场景化设计与用户价值感知提升？

张广勇： 主要集中在两个大场景：查词翻译和AI答疑老师。查词翻译结合了OCR、翻译和TTS；AI答疑在大模型支持下能提供更多价值——它并不是要替代老师，而是补充。传统辅导老师有学科分工，AI大模型可以在同一个模型下处理所有学科问题。比如学生学数学时遇到历史问题，AI也能解答。此外，AI能提供更好的交互体验——跟传统固定答疑方式不同，大模型实现灵活互动，学生可随时打断提问，询问具体知识点或相关百科，让学习更有趣，也能拓宽知识面。

古鉴： 我们正在跟一些展会和外贸场景结合，打造完整解决方案，包括多语种翻译（尤其小语种），以及全天候记录和总结。专业场景中，比如广交会，确实感受到不同国家的人都需要翻译服务。英语翻译设备很多，但小语种、专业词汇、不同口音的翻译仍有挑战。我们的眼镜可以快速交流，展商需要记录沟通内容——如果一天跟100个客户交流，记不住细节很正常。我们的方案能帮助记录、总结对话，保留翻译历史和音频文件，便于后续联系潜在买家。这是一个基于实际场景的有效翻译解决方案。

主持人： 如果能加上视频和拍照功能，记录现场并还原场景，印象可能更深刻。

古鉴： 确实，收到反馈后，计划在摄像头版本中加入拍摄名片和合照的功能，把这些内容插入到记录中，让记录更完整。

主持人： 端侧能力开发中，选择开源模型还是自研闭源方案？考虑的维度有哪些？

张广勇： 端侧算法和模型优化主要靠两部分：算法和模型工程。我们会基于一些开源模型，结合自己数据进行深度优化。云端开源推理框架很多且效果不错，但端侧开源推理框架少、效果有限。原因在于词典笔算力和内存非常有限——内存才1GB，而模型动不动几百兆；用第三方框架速度常常达不到实时要求。所以选择自己实现底层服务，既提升了速度，又降低了运行内存，使其可控。这也是端侧和云侧部署的重要区别：云侧可以扩展多台机器和多卡满足需求，但端侧一个芯片要同时支持离线大模型、OCR、TTS、ASR等多个功能模块，限制大，部署本地模型更挑战。

古鉴： 目前没有一个完全开源的端侧解决方案，因为眼镜算力有限。眼镜和手机都是个人设备，聊天记录等数据应该留在本地，确保隐私安全。所以我们倾向于用开源方案，经过优化适配手机或眼镜端。不过，眼镜端直接跑端侧模型还有一定距离。

主持人： 您预计眼镜上大概需要多长时间才能直接运行离线模型？

古鉴： 这跟电池技术发展有关。比如半固态电池已经在用，如果芯片算力提升、电池续航增加，未来一两年很有可能实现。很多公司在探索这种可能性。端侧模型相对较小，可能解决特定场景问题，而不是我们说的那种大型离线方案。所以小型离线模型的实现非常有可能。

主持人： 您认为AI Agent深度嵌入硬件会带来哪些范式级体验变革？

古鉴： 我们非常重视Agent概念，因为眼镜应该是随身设备、像个人助手。我们有Agent Store，还在探索MCP方案，希望接入更多Agent框架。Agent的优势在于能突破传统数据限制，连接所有APP，记录用户使用情况，提供更个性化帮助。我们希望在眼镜上实现类似功能，比如通过Agent点咖啡、点外卖、订票，不再需要打开手机——这是未来的趋势。

张广勇： 我们的AI答疑老师本质上就是一个Agent。它有几点特点：首先能实现个性化教学、因材施教，支持全科目——传统教育各学科独立，但在AI智能体支持下，学生可以跨学科学习，打破壁垒。其次，增强学习体验和交互性，比如立体几何这类空间感强的学科，学生可能难以理解，但通过视频或动画展示更形象。AI可以根据学生需求生成内容，甚至让学生自己根据想法绘制和生成学习内容，不再局限于固定格式。此外，促进从被动学习转向主动学习——传统以老师讲授为主，现在学生通过扫描、拍照、语音交互主动探索知识，与AI互动随时提问，激发兴趣。AI还能生成视频、动画和其他作品，提供更多可能性。

主持人： 我认为未来AI与人类交互有两种模式：Copilot模式——人类主导，AI做高度智能辅助；以及AI独立完成任务再通知人的模式。这两种模式将并行很长时间，人类继续参与，但也能偶尔“偷懒”。

主持人： 未来2-3年最看好的智能硬件场景是什么？

张广勇： 对我们自己，主要做AI与教育结合的学习智能硬件，比如今年推出的spaceone答疑笔，全屏设计更适合大模型功能落地。基于这些硬件，加上大语言模型、推理模型和多模态模型能力，能提供非常自然的交互体验，无论语音还是拍照都很顺畅。其他产品，用户体验会越来越好——比如我用了豆包耳机，原本以为延迟大、会卡顿，但实际上交互自然，反应很快。像耳机、眼镜这类设备，随着场景化结合和AI与硬件融合，用户体验会不断提升。当然功耗和重量仍是挑战，尤其是眼镜需要更便携，未来这些缺陷会逐步弥补。

古鉴： 我还是很看好眼镜的发展。比如未来教育中，孩子近视率高，家长不希望孩子用手机。如果孩子戴上眼镜，可以扫题、提示学习内容、引导坐姿纠正等，这是眼镜在教育领域的重要场景。除了眼镜，还有项链、戒指等设备，必须跟AI结合。通过这些随身硬件收集个人数据，训练出个人助手或辅助系统，将极大提升用户体验。未来甚至可能跟脑机接口或机器人技术结合，让用户拥有一个“替身”，完成很多任务，用户更多享受生活。大模型只是起点，随着技术进步，人类的工作会逐步减少，更多依靠“A vatar”来完成。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：DeepSeek时代智能硬件能否带来新GPT时刻要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题