华为云Tokens服务升级：384超节点加持，性能提升至2400TPS
8月27日消息，在今日开幕的第四届828 B2B企业节上，华为云正式宣布其Tokens服务全面接入CloudMatrix384超节点。这一举措将充分发挥“大杂烩”架构优势，通过系统级创新弥补单点性能局限，实现整体性能的持续提升。
华为云介绍，依托xDeepServe架构的创新突破，单芯片最高可实现2400TPS的吞吐量和50msTPOT的超低时延，这一表现显著超越了行业现有水平。
华为云指出，过去18个月内，中国AI算力需求呈现指数级增长。数据显示，2024年初全国日均Token消耗量约为1000亿，而到今年6月底，这一数字已突破30万亿。在一年半的时间里，日均消耗量增长超过300倍，反映出我国人工智能应用规模正在快速扩张，同时也对算力基础设施提出了更高要求。
据了解，华为云于今年3月在原有按卡时计费模式基础上，推出了基于MaaS的Tokens服务。为满足不同应用场景对性能和时延的差异化需求，该服务提供在线版、进线版、离线版和尊享版等多种规格选择。
华为云强调，Tokens服务在正式接入CloudMatrix384后，通过384原生的xDeepServe框架实现了吞吐量的再次突破——从年初的1920TPS提升至2400TPS，同时保持50ms的TPOT时延。
目前，华为云MaaS服务已支持DeepSeek、Kimi、Qwen、Pangu、SDXL、Wan等主流大模型，以及versatile、Dify、扣子等主流Agent平台，为用户提供更全面的AI算力支持。
免责声明
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
最新文章
杜亚鸿蒙智联星闪智能窗帘首发：749元起享隐形大师套装
8 月 27 日消息，杜亚今天推出了鸿蒙智选隐形大师智能窗帘，是全球首款支持星闪技术的智能窗帘，其电机主机采用全隐藏设计，众测价 749 元起。据介绍，这款智能窗帘搭载全隐藏电机，其高度为 41m
三星One UI 8稳定版9月推送，Galaxy S25系列首发升级
8 月 27 日消息，科技媒体 YtechB 昨日（8 月 26 日）发布博文，报道称三星再次确认将于 9 月推送基于安卓 16 的 One UI 8 稳定版，首批机型为 Galaxy S25 系
AMD Zen 6桌面处理器曝光：最高24核+96MB L3缓存，性能再突破
8 月 27 日消息，Youtube 频道 Red Gaming Tech 在最新一期视频中，透露 AMD 计划于 2026 年推出 Zen 6 架构 Ryzen 处理器，泄露信息显示将采用“Ry
微软确认8月更新致Win10/Win11故障：AutoCAD与Firefox运行异常
8 月 27 日消息，科技媒体 Windows Latest 昨日（8 月 26 日）发布博文，报道称微软已收到多名 Windows 11、Windows 10 用户反馈，承认 8 月安全更新导致
京东方或向三星供应W-OLED面板，双方进入磋商阶段
8 月 27 日消息，据韩媒 Thelec 今天报道，京东方正与三星等厂商就供应 W-OLED 面板进行谈判。多位业内人士指出，京东方近期与三星电子等公司会面，商讨显示器用 W-OLED 面板供货
热门推荐
热门教程
更多- 游戏攻略
- 安卓教程
- 苹果教程
- 电脑教程
