英伟达联手d-Matrix打造混合算力AI芯片基础设施
英伟达与d-Matrix合作,通过其Parasail服务将GPU与定制ASIC(Corsair)组合,构建混合算力基础设施。GPU专门负责预填充阶段,ASIC则专攻解码任务,并采用数字存内计算(D-IMC)和片内SRAM技术,有效降低数据传输开销,使得Token生成速率提升10倍。
最近一则消息挺有意思:AI芯片领域的巨头英伟达,正和一家叫d-Matrix的ASIC初创公司合作,打算把两家的硬件凑一起,搞个混合算力基础设施来跑AI模型。

具体来说,这个叫Parasail的云计算服务商,把英伟达的Hopper/Blackwell GPU和d-Matrix的Corsair ASIC组合到一起——结果呢?Token生成速率直接飙了10倍。
d-Matrix的Corsair走的是D-IMC(数字存内计算)路线,一颗台积电N6工艺的SoC,把计算单元和足够的SRAM塞在同一块芯片上,数据传输的开销就小多了,再用片外LPDDR5扩充一下容量,整体思路很清晰。
分工也很有意思:英伟达GPU负责AI推理前端的预填充任务——这部分计算密集,GPU的强项;d-Matrix的Corsair则专攻推理后端的解码任务,延迟敏感,大容量SRAM正好派上用场。
d-Matrix的创始人兼CEO Sid Sheth在新闻稿里说得挺直白:
Parasail正在印证我们从一开始就坚信的观点:推理的未来是异构的。GPU和专用推理翻跟斗并非竞争对手,而是相辅相成。通过将Corsair与其NVIDIA产品线结合使用,Parasail正在采用一种异构推理方法,旨在优化工作负载的每个阶段。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:英伟达联手d-Matrix打造混合算力AI芯片基础设施要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点人工智能行业正从基于测试基准的理论世界转向“真实世界AI”阶段。AI已具备生成、推理与行动能力,下一步需在真实工作流中接收反馈、交付可持续成果,实现从能力展示到生产交付的跃迁。
清华NLP实验室博士毕业生年薪可达600万以上,大厂抢人激烈,甚至建议学生放弃学位直接入职。产业迭代快于教育更新,AI人才缺口达400万。高薪背后,持续产出被看见的成果比文凭更重要,读书与“进厂”并非对立。
DeepSeek与智谱AI被曝秘密自研定制化推理芯片,旨在摆脱对英伟达等厂商的硬件依赖,构建自有算力生态。此举直击AI模型推理成本高、供应受限的痛点,英伟达股价闻讯下跌。国产大模型正从纯算法向软硬一体转型。
黑石旗下QTS终止弗吉尼亚数据中心项目,揭示美国算力中心因电力短缺、配套成本高而频现烂尾。近四成计划项目面临延期。中国“东数西算”统一布局八大枢纽,推动算力高效落地,全球竞争关键转向系统集成能力。
- 日榜
- 周榜
- 月榜
热点快看
