首页
科技
华为AI推理新突破:降低HBM依赖提升大模型性能

华为AI推理新突破:降低HBM依赖提升大模型性能

热心网友
5954
转载
2025-08-11

8月10日消息,据《科创板日报》独家报道,华为即将在8月12日举办的2025金融AI推理应用落地与发展论坛上,发布一项AI推理领域的重大技术突破。据知情人士透露,这项技术有望显著降低我国AI推理对HBM(高带宽内存)技术的依赖程度,同时提升国产AI大模型的推理性能,进一步完善国内AI推理生态的关键环节。 事实上,华为在AI推理领域的技术积累由来已久。今年3月,北京大学与华为就曾联合推出DeepSeek全栈开源推理方案。该方案创新性地整合了北大自主研发的SCOW算力平台系统和鹤思调度系统,同时融合了DeepSeek、openEuler、MindSpore以及vLLM/RAY等多个开源社区的优秀组件,成功实现了在华为昇腾平台上的高效推理。 在具体性能表现上,华为昇腾系列产品已实现多项行业领先的技术指标。测试数据显示,采用CloudMatrix 384超节点部署DeepSeek V3/R1时,在50毫秒时延限制下,单卡解码吞吐量突破1920 Tokens/秒;而Atlas 800I A2推理服务器在100毫秒时延限制下,单卡吞吐量更是达到808 Tokens/秒。 值得一提的是,华为与科大讯飞的战略合作也取得了突破性进展。双方成功在国产算力平台上实现了MoE模型的大规模跨节点专家并行集群推理,这一创新使得推理吞吐量提升3.2倍,端到端时延降低50%,为国产AI推理技术的发展树立了新的标杆。

免责声明

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

最新文章

飞智×米哈游推出《原神》丝柯克联名手柄,749元起售

8 月 10 日消息,米哈游《原神》与飞智合作,基于飞智八爪鱼 5 推出一款“丝柯克・虚渊暗星游戏手柄”,该手柄将于今年 12 月发货,定价 749 元,礼盒套装为 899 元。外观方面,注意到这

2025-08-11.
1792

LG 27GX700A 四代OLED显示器上市:2K 280Hz电竞屏售4599元

8 月 9 日消息,LG 电子旗下首款第四代 (W) OLED 显示器 UltraGear OLED GX7 27GX700A (26 5 英寸显示器)现已在京东开启首销,定价为 4599 元。京

2025-08-11.
9634

小鹏P7纯电轿车将启动24小时耐力测试,续航表现值得期待

8 月 10 日消息,小鹏汽车董事长何小鹏今晚发文称:“之前雷总和我围绕真正高性能的纯电车型,专门讨论过是否应该做 24 小时耐力测试的事情,这是一件非常难、强度非常大的测试,雷总建议可能的话都应

2025-08-11.
3424

宁德时代宁家服务进驻上海曼谷,全球体验中心正式开放

8 月 10 日消息,据界面新闻报道,今日“宁家服务”迎来品牌成立一周年。在今日举办的品牌活动上,宁德时代质量体系、后市场业务部总裁李伟宣布,“宁家服务”在上海和泰国曼谷新增两家直营体验中心。两家

2025-08-11.
6208

甘肃榆中县通信设施全面恢复,工信部:汛期已抢通基站超1.7万座

8 月 10 日消息,8 月 7 日傍晚,兰州市榆中县遭遇连续强降雨引发山洪灾害,部分输电线路因灾受损。工信部发文称,截至 8 月 10 日下午 16 时,榆中县受灾公众通信设施基本恢复、整体平稳

2025-08-11.
8262

热门教程

更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程

最新下载

更多
野外求生专家
野外求生专家 休闲益智 2025-08-06更新
查看
Mechangelion
Mechangelion 动作冒险 2025-08-06更新
查看
全民脑洞王者
全民脑洞王者 休闲益智 2025-08-11更新
查看
女神特战队
女神特战队 休闲益智 2025-08-11更新
查看
贴纸屋
贴纸屋 休闲益智 2025-08-06更新
查看
少侠传说
少侠传说 动作冒险 2025-08-06更新
查看
开动脑筋小能手
开动脑筋小能手 休闲益智 2025-08-11更新
查看
仓鼠球
仓鼠球 休闲益智 2025-08-06更新
查看
像素火影次世代晓鼬
像素火影次世代晓鼬 动作冒险 2025-08-06更新
查看
勇者夺旗
勇者夺旗 棋牌策略 2025-08-06更新
查看