苹果接触PrismML拟将270亿参数大模型部署至iPhone
近日,初创公司PrismML将270亿参数大模型压缩至仅4GB,成功在iPhone17Pro上本地离线运行,无需联网即可完成复杂对话、推理与自主智能体任务。苹果已接触该公司,计划将更多AI功能本地化,以保护用户隐私并提升响应速度。
图片来源:PrismML
苹果公司始终致力于将大型人工智能模型集成到iPhone中,这不仅能降低云端计算成本,还能进一步强化用户隐私保护。然而,一家今年初才从隐身模式中亮相的初创企业近期取得了突破性进展:他们在iPhone上成功运行了迄今为止移动端规模最大的AI模型,实现了移动端大模型的新里程碑。
这家公司名为PrismML。他们宣称已将Qwen 3.6模型压缩至可在iPhone 17 Pro上直接运行,该模型参数规模高达270亿。参数如同大脑中的突触,决定了模型处理复杂数据的能力。相比之下,目前绝大多数手机端AI模型一次激活的参数仅几十亿级别。
当然,目前最大的AI模型参数已突破万亿级别,远非手机所能承载。但PrismML表示,其在iPhone上运行的模型已能胜任复杂对话、推理、完全自主的智能体任务,甚至包括编写代码。该开源模型将于下周开放下载。
这一里程碑此前未被公开报道,但它反映了整个行业的重大趋势:将人工智能从昂贵的数据中心服务器迁移至设备端本地运行。微软、亚马逊、Meta等科技巨头正投入数千亿美元竞相建设数据中心,唯恐落后于AI需求的爆发式增长。
苹果在这场数据中心军备竞赛中几乎处于旁观者姿态,反而极力推动将尽可能多的AI功能在iPhone上本地运行。苹果认为,设备端AI能够更好地兑现其用户隐私与安全的承诺。
PrismML首席执行官Babak Hassibi在一次采访中预测,绝大多数人工智能最终将在设备端处理。“想象一下,也许三年后,你所需的95%的智能功能都可以在本地完成——手机、笔记本、家用电器,真正需要云端处理的可能只有最后5%的高端内容。”他表示,“我认为业界正将这条路视为未来方向。”他补充道,将模型压缩至可在设备上运行,“从根本上改变了AI的经济模式”。
多家顶级AI投资者已认可这家初创公司的愿景。Khosla Ventures——OpenAI的首个风险投资方——在今年早些时候领投了PrismML的1625万美元种子轮融资。Khosla本人表示,PrismML提供了一种“根本性突破”,这正是他感兴趣的原因。“我们在2018年押注OpenAI时,赌的是Transformer模型,但构建AI还有哪些新方法?我们的团队一直在探索新路径。”
PrismML采用了一种数学技巧,将Qwen 3.6模型压缩至原始体积的极小部分。通常,模型缩小会导致性能下降,但该公司声称其技术不会影响模型性能。他们成功将Qwen 3.6的体积从约54GB压缩至不到4GB。
PrismML是一家由加州理工学院孵化的初创公司,Hassibi是该校电气工程学教授,他与联合创始人在学校完成了这项技术的数学研究。学校拥有相关专利,但已独家授权给PrismML。
PrismML计划继续将更大规模的AI模型进行压缩,甚至挑战万亿参数级别——这将进入OpenAI的GPT、Anthropic的Claude等前沿模型的领域。
这种方法尤其可能吸引苹果的注意。在苹果六月的全球开发者大会上,该公司宣布了基于Google Gemini模型的长期延迟的Siri改造。Siri中最先进的部分仍然非常庞大,以至于苹果需要借助运行在Google Cloud中的NVIDIA芯片。作为新Siri发布的一部分,苹果表示部分iPhone的AI功能将在设备上运行。苹果自己的本地模型拥有200亿参数,但采用稀疏架构,一次仅激活10亿到40亿参数。而PrismML的本地模型可实现270亿参数同时激活。
过去,苹果在本地模型方面曾遇到挑战。去年,苹果试图将内部AI模型缩小以适配iPhone,结果发现性能损失严重,据《The Information》报道。苹果目前也在寻求收购能够帮助在设备上运行更多AI的公司。熟悉谈判的人士透露,苹果已就如何使用PrismML的技术举行过会谈。
当然,在设备端实现AI还有其他技术路径。例如初创公司Argmax,专注于将AI部署在设备端处理语音和图像等任务,然后将处理后的信息发送至云端进行更复杂的推理。这种混合方法的一个重要原因是:云端的大模型仍在快速迭代,几乎每周都有更新。支持者认为,完全在设备上运行的AI无法享受到最新、最先进模型的好处,而这些模型都运行在云端。
参考来源:
https://www.theinformation.com/articles/khosla-backed-startup-claims-breakthrough-largest-ever-ai-model-iphone?rc=ji9vez
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:苹果接触PrismML拟将270亿参数大模型部署至iPhone要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点基于RK3588S平台的AI集群服务器,最高配置72块八核计算单元,总核心数达576核,每个核心AI算力6Tops。采用全热插拔模块化设计,配备BMC智能管理系统,支持多种操作系统,适用于云手机、云游戏、边缘计算等场景。
米尔电子MYC-JX8MPQ核心板基于NXPi MX8MPlus芯片,集成2 3TOPSNPU与四核Cortex-A53加Cortex-M7异构架构,NPU推理速度比CPU快15倍以上。支持双路摄像头输入、硬件编解码及丰富高速接口,适用于人脸识别、边缘计算节点及5G智能网关等场景。
智能会议预约系统通过网络化、信息化管理,实现会议室状态实时查看与在线预约,与考勤系统深度打通,自动同步参会人员信息,减少人工成本,避免资源冲突,提升管理效率与企业形象。
利用5个AI提示词模板训练深度思考:苏格拉底式提问法加深理解,知识关联网络拓宽认知,批判性思维分析局限,多元应用落地场景,知识卡片系统整合。借助工具实现高效学习。
- 日榜
- 周榜
- 月榜
热点快看
