苹果CoreAI端侧AI架构测试：M4 Mac上Qwen3 0.6B解码速度是MLX 2.47倍

先说几个核心判断：苹果在AI硬件与软件架构方面，正悄然推进一场“代际升级”。而这场变革的关键，就是CoreAI。

6月11日消息，科技媒体Wccftech爆料称，在明年的全球开发者大会（WWDC 2026）上，苹果计划正式推出全新的CoreAI引擎，用以接替2017年亮相的老将CoreML。要知道，CoreML这个旧框架已经服役9年，它最擅长处理的还是图像分类这类规模较小、相对静态的任务。但到了2026年，移动端和边缘侧的大模型推理需求，已经完全不可同日而语。

如何理解两者的区别？简单来说，CoreML像是“老黄牛”，能干但不够灵活；而CoreAI则直接瞄准了端侧本地推理与边缘AI场景，尤其是设备端的语言大模型推理。它支持更灵活的模型格式，也能承载更大的模型内存占用——这才是关键所在。

另一个容易混淆的概念是MLX。MLX是苹果生态中的机器学习框架，侧重于研究、训练和微调任务。许多开发者会借助MLX来测试和部署本地大模型。但如果你问它和CoreAI相比，谁在推理方面更强？答案已经揭晓。

从首批基准测试来看，苹果CoreAI呈现出一种“小模型绝对碾压、大模型接近持平”的有趣格局。例如，在M4 Mac上运行Qwen3 0.6B模型，CoreAI的解码速度大约是MLX的2.47倍。在iPhone 17 Pro上，这个优势也保持在约1.6倍。解码速度（tok/s）这个参数你或许不太熟悉，但它直接决定了你等待回复的时间：数值越高，模型生成文本越快，用户等待时间就越短。2.47倍意味着，在Mac上等3秒的事，别人可能要等将近7秒半。

当然，如果你把模型规模拉大到80亿参数——也就是用Qwen3 8B在M4 Max上运行——CoreAI的优势就会缩水，仅比MLX快5%，两者解码性能几乎持平。这说明一个规律：模型越大，架构和内存带宽的瓶颈越明显，任何专有优化框架的边际优势都在收窄。

持续负载方面，测试还揭示了一个值得警惕的细节：iPhone 17 Pro的GPU在长时间运行后会较快触发温控降频。这直接削弱了纯GPU路线的持续吞吐能力。反过来，CoreML配合苹果神经引擎（ANE，Apple Neural Engine）的组合，居然在性能保持率方面实现了反超。也就是说，光堆料还不够，还得看谁能把温度压住、把负载稳住。

横向对比：谷歌的方案更吃香

如果把视角拉升到整个行业，会发现另一个更有意思的对比：针对特定模型做深度优化的AI引擎，往往更容易跑出令人惊艳的成绩。比如，谷歌的LiteRT-LM在运行自家Gemma模型时，在iPhone 17 Pro上能达到每秒55.4 tokens，而内存占用仅为641 MB。作为参照，苹果自家的MLX在同等条件下，内存占用飙到了2900 MB，是前者的4.5倍。

这就好比你在高速上开同一款车，但别人用的是专配赛道胎，你还用着四季胎——差距不是一点点。不过话说回来，MLX本就不是专门为移动端推理优化的框架，这个对比也给苹果提了个醒：要真正做成“端侧大模型”，内存和效率的双重优化，绝对不能落下。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：苹果CoreAI端侧AI架构测试：M4 Mac上Qwen3 0.6B解码速度是MLX 2.47倍要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题