苹果联手LM Studio四台Mac Studio本地运行万亿参数大模型超越云端集群
在WWDC2026上,LMStudio与苹果合作,仅用四台MacStudio组成集群,成功运行月之暗面万亿参数大模型KimiK2 6。该模型采用MoE架构,统一内存约1 5TB,推理速度约28tokens s。LMLink功能支持远程安全连接,数据全程本地化处理,无需上云。
在刚刚落幕的2026年WWDC大会上,LM Studio与苹果联合宣布了一项重大突破——仅通过四台Mac Studio组成的集群,成功运行了月之暗面推出的万亿参数大模型Kimi K2.6。这一成果直接打破了“万亿参数模型只能依赖云端GPU集群”的传统认知,让消费级硬件承载前沿AI算力从概念演变为切实可行的工程实践。
Kimi K2.6模型总参数量高达1万亿,采用MoE混合专家架构,实际激活参数为320亿,支持长文本上下文、多模态输入以及智能体任务处理。在演示中,四台Mac Studio借助苹果的内存共享与互联技术组成集群,统一内存总量约为1.5TB,刚好满足这一庞大规模的模型推理需求。此前开发者的测试数据显示,在类似配置下,Kimi K2.6能够实现约28 tokens/s的生成速度,而功耗远低于传统GPU方案。需要强调的是,这一速度对于本地推理场景而言已经相当可观。
从iPhone直连本地集群,数据全程不离开设备
更值得留意的是,演示还重点展示了LM Studio的LM Link远程访问功能。用户可以通过MacBook Neo笔记本或iPhone,安全地远程连接到Mac Studio集群,与正在运行的模型进行实时交互,所有数据和通信始终在本地处理,不会上传至云端。这意味着什么?你坐在咖啡厅里,只需一部手机就能操控办公室中的集群级AI算力,而且数据全程不上云,隐私风险被大幅降低。
LM Link功能目前已更新至LM Studio的Mac应用以及Locally AI的iOS应用中,支持端到端加密连接。这一设计让用户即使持有轻量设备,也能随时调用集群级AI算力,同时无需担忧隐私泄露问题。结合苹果Thunderbolt 5 RDMA等多设备内存共享技术,整个AI本地化部署的技术生态闭环正在加速成型。可以说,苹果的硬件互联能力正在为本地AI推理开辟一条全新的路径。
这次合作释放出一个清晰信号:本地部署万亿参数大模型已不再是遥不可及的实验室概念,而是正在走向开发者案头的工程现实。随着苹果硬件互联能力的持续进化,消费级设备承载大规模AI推理的边界有望被进一步拓宽。接下来的进展,值得持续关注。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:苹果联手LM Studio四台Mac Studio本地运行万亿参数大模型超越云端集群要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点Dzine是一款强调构图控制与风格管理的AI图像设计工具,提供样式库、图层操作、定位和素描工具,支持文生图与图生图,具备生成填充编辑、一键修复增强及最高6144像素超高清导出功能,降低设计门槛,兼顾新手与专业用户。
3D虚拟空间的搭建,过去往往依赖专业建模软件和大量手动操作,技术门槛相当高。但现在,一款名为Arrival的云端SaaS解决方案正凭借AI与拖放功能,将这件事变得像搭积木一样轻松便捷。 什么是Arrival? Arrival本质上是一套专业的软件工具,核心目标就是帮助用户快速构建一个3D虚拟空间。它
ZENAI通过AI自动完成用户访谈,省去人工招募与主持流程,并自动总结用户场景、痛点及人物画像。产品经理、设计师、研究员可借此快速验证假设、提炼场景、获取市场洞察,加速产品市场契合度(PMF)达成,提供基础与专业两种套餐。
MeshcapadeMe基于SMPL人体模型技术,提供API接口支持图像、视频、测量及3D扫描输入,自动生成统一格式的逼真数字分身,无需专业建模技能即可将各类素材转化为可动画、跨平台使用的数字人类,适用于虚拟现实、游戏与影视等领域。
- 日榜
- 周榜
- 月榜
热点快看
