思元370芯片MLU370-X8智能加速卡产品手册深度解析
寒武纪思元370芯片采用7nm工艺与Chiplet技术，集成390亿晶体管，算力达256TOPS。其MLU370-X8加速卡搭载双芯，支持LPDDR5内存与MLU-Link多芯互联，提供高效训练与推理性能。实测显示，该卡在250W功耗下性能媲美主流350WGPU，多卡扩展效率突出。
在AI芯片这一前沿科技领域，每一次制程与架构的突破都牵动着业界的目光。寒武纪推出的思元370，作为其首款采用先进Chiplet（芯粒）封装技术的AI处理器，标志着一次关键的技术跨越。该芯片基于领先的7纳米制程工艺，集成了惊人的390亿个晶体管，其最大计算性能达到256TOPS(INT8)，性能表现是前代思元270的两倍。这一飞跃得益于寒武纪第三代智能芯片架构MLUarch03的赋能，使得思元370在实际应用中的效能表现尤为突出。
除了核心算力，内存带宽同样是决定AI芯片性能上限的关键因素。思元370是国内率先公开支持LPDDR5高速内存的云端AI芯片，其内存带宽提升至上一代产品的三倍，访存能效更是优于GDDR6方案达1.5倍，从而在处理大规模数据时实现了更高的能效比。为应对复杂的分布式AI训练与推理需求，芯片集成了MLU-Link™多芯互联技术，保障了多颗思元370芯片间能够实现高效协同与算力扩展。在软件生态层面，全新升级的寒武纪基础软件平台引入了推理加速引擎MagicMind，实现了训练与推理流程的一体化整合，这大幅提升了AI模型的开发与部署效率，同时显著降低了用户的学习成本与总体拥有成本。
寒武纪® AIDC® MLU370®-X8智能加速卡训推一体人工智能加速卡
将思元370芯片的强劲性能转化为即插即用的算力解决方案，便是MLU370-X8智能加速卡。这款加速卡采用双芯思元370设计，是一款双槽位、热设计功耗为250W的全尺寸AI加速卡。它提供高达24TFLPOS(FP32)的训练算力与256TOPS (INT8)的推理算力，并全面支持FP16、BF16等多种主流训练精度，为复杂人工智能模型的训练与云端部署提供了可靠的硬件基石。
得益于双芯集成设计，MLU370-X8拥有翻倍的内存容量与编解码资源。其核心亮点在于搭载的MLU-Link多芯互联技术，使得单张加速卡可获得高达200GB/s的双向通讯吞吐性能，这是PCIe 4.0接口带宽的3.1倍。这种卓越的高速互联能力，完美支持单台服务器内八卡的高密度部署，能够高效执行多芯片、多卡的协同训练与大规模分布式推理任务，极大提升了数据中心集群的整体算力利用率。
作为一款全面升级的数据中心级训推一体AI加速卡，MLU370-X8基于思元370芯片打造，采用标准的PCIe 4.0 X16接口，全高全长双槽位（FHFL-Dual-Slot）的标准设计使其能够轻松兼容业界最新的CPU平台，快速集成于各类先进的人工智能服务器中。其250W的功耗设计，为计算机视觉、自然语言处理、智能语音等多样化的AI应用场景提供了强大且高效的算力支撑。
产品规格
| 板卡型号 | MLU370-X8 |
|---|---|
| 计算架构 | Camicon MLUarch03 |
| 制程工艺 | 7nm |
| 计算精度支持 | FP32、FP16、BF16、INT16、INT8、INT4 |
| 峰值性能 | 256 TOPS (INT8) |
| 128 TOPS (INT16) | |
| 96 TFLOPS (FP16) | |
| 96 TFLOPS (BF16) | |
| 24 TFLOPS (FP32) | |
| 内存类型 | LPDDR5 |
| 内存容量 | 48GB |
| 内存带宽 | 614.4 GB/s |
| 视频编解码 | 最高可支持至8K；264路HEVC全高清视频解码；48路HEVC全高清视频编码； |
| 图片编解码 | 图片编解码最高分辨率支持16384x16384；8000 Frames/s 全高清图片解码；6000 Frames/s 全高清图片编码； |
| 系统接口 | x16 PCIe Gen4 |
| MLU-Link™接口 | 4 ports, 16 Lanes, 50 Gbps |
| MLU-Link™带宽 | 聚合带宽200GB/s Bi-direction |
| 形态 | 全高全长双槽位 |
| 最大热功耗 | 250W |
| 散热设计 | 被动 |
在实际的AI工作负载中，真实的性能表现才是衡量硬件的最终标准。根据寒武纪基础软件平台SDK的官方实测数据，在多个主流人工智能模型上，功耗仅为250W的MLU370-X8单卡性能，已能够与市面上主流的350W功耗GPU产品相抗衡。而在更能体现技术深度的多卡并行加速场景中，MLU370-X8凭借其MLU-Link多芯互联技术与寒武纪CNCL通讯库的深度优化，在八卡配置下展现出了更优异的并行加速比与扩展效率，这意味着其能够更有效地发挥大规模AI计算集群的算力潜能。
性能对比
测试环境
250W MLU370-X8：NF5468M5/Intel Xeon Gold 5218 CPU @ 2.30GHz/MLU370 SDK 1.2.0
350W GPU： Supermicro AS -4124GS-TNR/Intel Xeon Gold 6130 CPU @ 2.10GHz/Cuda11.2
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：思元370芯片MLU370-X8智能加速卡产品手册深度解析要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点面壁智能聚焦端侧AI，不拼参数大小，而是通过知识密度提升与模型风洞技术，将大模型压缩至手机、汽车等设备。其MiniCPM以2B参数超越同期8B对手。CTO曾国洋22岁主导训练中国首个大语言模型CPM-1。端侧AI追求“默契系统”，在用户开口前预判需求，已在吉利、上汽大众等车型落地应用。
印度IT巨头HCLTech投资最高350亿卢比建设AI数据中心，容量可扩展至50MW，提供从设计到运营的端到端服务，旨在满足政府及企业日益增长的算力需求，抢占印度快速增长的数据中心市场，并推动AI基础设施布局。
小米具身机器人在汽车工厂自攻螺母上件工站实现双侧作业成功率98%，接近人工水平。同时在新工站分别达到90%成功率，从单一操作拓展至多工站协同，验证了具身智能在复杂工业环境的落地能力。
全球AI行业正迎来新的财富格局，DeepSeek创始人梁文锋凭借其公司的迅猛发展，个人财富急剧膨胀，一举超越多位硅谷知名人物，成为全球AI公司领域的新首富。以下将详细解析其身价飙升背后的关键因素及公司发展历程。 一、身价飙升至360亿美元，超越多位AI大佬 根据最新彭博亿万富豪指数，DeepSeek
- 日榜
- 周榜
- 月榜
热点快看