AI PC端侧首现128K上下文窗口 推理性能提升2.2倍
面壁智能与英特尔联合发布MiniCPM4 0模型，首次在AIPC端侧实现128K长上下文窗口支持，通过软硬件稀疏化创新带来2 2倍推理效率提升。模型采用双频换挡机制适配长短文本场景，在英特尔酷睿Ultra处理器上首Token延迟降低38%，Token速率提升最高3 8倍。
AI PC端侧模型技术突破：128K超长上下文与2.2倍推理效率提升
面壁智能与英特尔联合宣布，正式发布并开源了「面壁小钢炮」端侧系列最新成果——MiniCPM 4.0 模型。这一重大突破实现了系统级软硬件稀疏化创新，首次在AI PC上支持128K超长上下文窗口，并带来高达2.2倍的端到端推理效率提升，开启了端侧AI的全新篇章。
核心突破一览
- 面壁智能 × 英特尔：双方深度技术协同，发布MiniCPM 4.0模型，实现软硬件稀疏化创新突破。
- 长、短文本高效切换：MiniCPM 4.0支持“双频换挡”机制，灵活适配不同场景需求。
- 英特尔酷睿Ultra处理器：CPU、GPU、NPU三引擎全面适配，提供第零日（Day 0）即时支持。
- 128K上下文窗口：首次在英特尔锐炫™ Pro B60上实现，首Token延迟降低38%，Token速率提升最多3.8倍。
技术详解：MiniCPM 4.0 模型的创新之处
1. 模型规模与“高效双频换挡”机制
MiniCPM 4.0系列LLM模型提供8B、0.5B两种参数规格。针对单一架构难以同时兼顾长、短文本不同应用场景的技术挑战，MiniCPM 4.0-8B采用了“高效双频换挡”机制：
- 长文本/深度思考任务：启用稀疏注意力，降低计算复杂度，高效处理超长上下文。
- 短文本场景：切换至稠密注意力，确保推理精度与响应速度。
该机制可根据任务特征自动切换注意力模式，实现对长、短文本的高效响应，用户无需手动干预。
2. 软硬件协同优化：英特尔加速套件与KV Cache增强
双方开展了深度技术协同，基于英特尔硬件架构定制投机解码配置。通过硬件感知的草稿模型优化策略，结合英特尔加速套件与KV Cache内存增强技术，最终实现端到端推理效率的2.2倍提升1。
3. 英特尔酷睿Ultra处理器全面适配与Day 0支持
搭载CPU、GPU、NPU三大AI运算引擎的英特尔酷睿Ultra处理器已迅速适配MiniCPM 4.0系列模型，并借助OpenVINO™工具套件为模型提供优化的卓越性能表现。英特尔首次在NPU上对模型发布提供第零日（Day 0）支持，为不同参数量模型和应用场景提供更加多样化、更具针对性的平台支持。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：AI PC端侧首现128K上下文窗口 推理性能提升2.2倍要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点TP-LINK深圳总部要求全体员工将劳动合同转签至注册资金仅3000万元的全资子公司思码逻辑，因保障缩水风险引发员工强烈抵制。内部投票显示近九成参与员工拒绝签字。与此同时，部分员工社保状态异常，面临断缴风险，叠加此前超140人的裁员以及企业主体迁出等变动，导致内部人心动荡。这家曾占据全球路由器市场4
本田中国5月销量数据出炉，单月总交付量仅为28279辆，同比大幅下滑48 7%，销量近乎腰斩。与2020年前后的市场巅峰期相比，如今整体体量仅剩约两成。这已是本田中国连续第27个月同比下滑，跌幅仍在加深。颓势根源在于电动化战略预判失误，产品梯队崩塌，新能源车型销量惨淡，同时双合资体系内耗严重，部分工
台积电CEO近日在股东会上谈及芯片涨价策略，明确表示不会效仿存储芯片厂商短期价格暴涨数倍的做法，强调公司注重长期稳健经营。然而，供应链消息显示，台积电已计划于2026年下半年上调3纳米制程报价最高15%，2027年可能进一步上涨。CEO指出，AI应用正转向“代理式行动模式”，算力需求激增，全球芯片供
近日，方程豹品牌旗下全新硬派SUV车型“钛9”的路试谍照曝光。新车采用经典的“方盒子”造型，线条平直硬朗，车身立柱垂直，分体式灯组和贯穿式日行灯设计颇具辨识度。侧面配备大轮毂和高离地间隙，车门带有固定踏板，车尾预留外挂备胎位置，整体风格硬派。动力方面，预计将搭载2 0T发动机加双电机的混动系统，综合
- 日榜
- 周榜
- 月榜
热点快看