苹果AI官方详解 本地30亿参数模型云端苹果芯片服务器
苹果推出AppleIntelligence,包含约30亿参数的设备端模型和基于苹果芯片的云端大模型。本地模型性能超越多个7B开源模型,采用AXLearn框架训练,注重隐私保护。设备端首token延迟0 6毫秒,生成速率每秒30个token,今年夏季以测试版形式推出,需A17Pro或M系列芯片。
先说几个核心判断。苹果在 WWDC24 上正式揭晓了 Apple Intelligence,这一步棋走得相当扎实——它不只是展示了一个概念,而是从底层模型到上层应用,给出了一套完整的 AI 落地解决方案。具体来说,苹果这次推出的基础模型有两个:一个是在设备端运行的约 30 亿参数的语言模型,另一个是通过私有云计算、跑在苹果自家芯片服务器上的云端大模型。

30 亿参数,听起来并不算大,但苹果的调校功力全在里面了。根据官方公布的数据,这个本地模型在多项测试中的得分,甚至超过了 Mistral-7B、Gemma-7B 这类 70 亿参数的开源模型。具体到日常使用场景,这些模型经过精细调校,能够处理文字撰写与润色、通知的优先级排序与摘要,甚至帮用户在与家人朋友的对话中生成有趣的图像——更重要的是,它们能在不同应用之间自动协调,简化跨应用的操作流程。

有意思的是训练部分。苹果选择在自家的 AXLearn 框架上训练这些基础模型——这个框架其实是苹果 2023 年才开源的项目,底层构建在 JAX 和 XLA 之上。这样做的好处很明显:无论是 TPU 还是云端的 GPU,甚至苹果自己的硬件,都能灵活地扩展训练规模。换句话说,苹果在训练基础设施上已经完成了从“能用”到“高效”的切换。
隐私方面,苹果的承诺很直接:训练基础模型时不使用用户的私人数据或交互记录。不仅如此,他们还部署了过滤器,专门剔除互联网上公开的个人身份信息,比如社保号、信用卡号。脏话和低质量内容也被一并过滤掉。更具体一点,这套流程还包括数据提取、去重,以及基于模型的分类器来识别高质量文档。这些细节很关键——在 AI 隐私保护普遍被质疑的今天,苹果的做法明显是要在源头建立起信任。





优化层面,设备端和服务器端模型都采用了 grouped-query-attention 架构。设备端模型的词汇量是 49K,而服务器端模型则提升到 100K,额外支持更多语言和技术标记。真正让人眼前一亮的是实际性能:在 iPhone 15 Pro 上,每个 prompt token 的首 token 延迟只有约 0.6 毫秒,后续生成速率能达到每秒 30 个 token——这个数据说明,苹果在模型推理效率上确实下了大功夫。
评测数据也很有意思。在 IFEval(指令跟踪评估)测试中,苹果的本地模型表现超过了 Phi-3-mini、Mistral-7B、Gemma-7B,甚至不输 DBRX-Instruct、Mixtral-8x22B 和 GPT-3.5-Turbo。而云端版本的表现,基本与 GPT-4-Turbo 持平。必须说,这个成绩放在端侧和云端联合部署的框架里,相当有竞争力。
话说到头,什么时候能用上?苹果的计划是今年夏天在 iOS 18、iPadOS 18 和 macOS Sequoia 的测试版中率先开放,今年秋季以测试版形式向公众推出。不过部分功能、更多语言和平台支持,得等到明年。Apple Intelligence 可以免费使用,但设备有门槛:需要 A17 Pro 芯片或任何 M 系列芯片。也就是说,iPhone 上目前只有 15 Pro 和 15 Pro Max 能用,即将到来的 iPhone 16 系列自然也包括在内。Mac 这边需要 M1 或更高版本,iPad 则是 M1 芯片起步的 Pro 或 Air。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:苹果AI官方详解 本地30亿参数模型云端苹果芯片服务器要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点Keychron近日预告了V6系列键盘新品,其采用创新的“NovaSocket”架构,可同时兼容传统机械轴体与电磁模拟轴体(磁轴),满足办公手感与游戏响应的双重需求。该键盘支持8kHz回报率,并延续了全配列布局,提供了完整的数字键区。此举填补了市场空白,成为首款全配列的双兼容轴体键盘,旨在为需要兼
Anthropic联合黑石集团等成立独立企业AI服务公司Ode,基于收购的FractionalAI,由ChrisTaylor任CEO。公司旨在将Anthropic大模型与资深工程团队深度融合,帮助中型企业全面落地AI技术,创造切实业务价值,助力企业数字化转型,提升运营效率与市场竞争力。
软文写作关键在于场景化锚定用户痛点,用动作细节和身体反馈替代空洞描述。以“顺手”“刚好”替代推荐语,借他人之口弱化推销痕迹。打磨时删去主语句式,替换为具体肢体动作,控制产品名称出现次数不超过两次,使广告融入日常叙事。
让AI写出真实家庭故事,关键在于从日常细节中自然埋下裂痕,通过重复句式或不合时宜的旧事触发矛盾,情感转折落在未完成的动作上,并紧跟无关的感官细节,为情绪留出呼吸缝隙。
- 日榜
- 周榜
- 月榜
热点快看
