华为与中科宏云联合发布AI推理加速方案，适配主流算力芯片
12 月 23 日消息，华为数据存储与中科弘云今日发布了 AI 推理加速联合解决方案。该方案以华为 OceanStor A 系列存储为数据底座，结合中科弘云智算互联网云服务平台 HyperCN 平
12月23日，华为数据存储与中科弘云联合发布了一项全新的AI推理加速解决方案。
这一方案以华为OceanStor A系列存储设备为数据底座，结合中科弘云智算互联网云服务平台HyperCN，显著提升了长序列推理任务的运行体验。
该方案深度融合了华为OceanStor A系列存储、华为UCM推理记忆数据管理技术以及中科弘云HyperCN平台的强大能力。通过KV Cache多级缓存管理、秒级算力调度、分钟级推理大模型部署及全流程AI工具链，能够将智能算力高效输送至业务一线。该联合方案的核心优势具体体现在以下几个层面：
异构管理：支持平台、计算与存储的协同联动，完美适配英伟达、华为昇腾、寒武纪等多元AI算力，兼容MindSpore / vLLM/SGLang等主流框架，并通过Kubernetes与华为OceanStor A系列存储实现无缝对接。
算力调度：对算力资源进行细粒度切分与池化处理，能够按需灵活调度，最大化提升资源利用率；具备集群作业调度、运维监控、故障恢复等功能，支持分钟级任务恢复与系统健康监测。
推理加速：依托华为UCM技术，将KV Cache持久化至华为OceanStor A系列存储，实现推理记忆的全量保存，有效减少重复计算；此外，融合Prefix Cache、GSA稀疏加速等算法，显著降低首Token时延（TTFT），使长序列推理的吞吐与体验获得倍数级提升。
端到端AI工具链：覆盖数据管理标注、算法开发、大小模型训练推理、智能体开发等全流程，支持传统机器学习与深度学习开发，实现AI资产的统一建设与集中管理。
经实际测试，在智能问答的典型推理场景中，该方案实现了首Token时延（TTFT）降低57.5%，且序列长度越长，优化效果越显著；在长文档推理场景中，结合GSA稀疏加速算法，当序列长度为39K时，并发能力提升86%，推理吞吐提升36%，在提升推理效率与体验方面成效明显。
从合作公告获悉，该联合方案目前已在能源电力、智能制造、国家实验室等关键行业启动试点应用。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：华为与中科宏云联合发布AI推理加速方案，适配主流算力芯片要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点度加剪辑是百度官方出品的剪辑工具，面向口播自媒体创作者。支持视频剪辑、智能识别字幕，并与百度网盘打通，可快速导入素材。适用于泛知识类创作者制作高质量视频，覆盖从素材导入到成品输出的完整流程。
WorkoutMaster是一款基于AI的个性化锻炼计划生成工具，能根据用户目标、偏好及历史训练记录，动态输出专属方案，并实时自适应调整负重、组次等参数。支持定制目标与器械偏好，借助机器学习持续优化，随时随地即可接入使用，确保训练高效安全。
Calorielens是一款利用AI分析餐食照片的卡路里追踪应用。用户只需拍照，AI即可自动识别食物种类和分量并估算卡路里，省去手动输入步骤。应用还提供历史记录追踪功能，帮助把握热量趋势。AI估算精度可满足日常健康管理需求。
百度旗下“简单搜索”AI搜索引擎集成语音、图像、多媒体搜索及实时翻译，支持多模态交互与智能推荐。基于大模型技术，用户可通过对话式交互直接获取精准答案，适用于学习、旅行、生活、职业发展等场景，高效满足信息需求。
- 日榜
- 周榜
- 月榜
热点快看