美团开源万亿参数大模型LongCat-2.0同步开放国产卡推理
美团开源万亿参数大模型LongCat-2 0,总参数量1 6T,平均激活参数48B,采用稀疏注意力和N-gramEmbedding提升长上下文处理与代码理解。该模型在五万卡国产算力集群上完成推理,从模型、芯片适配、部署三方面优化,开源多精度版本及国产算力推理代码。
刚刚获悉,美团于7月6日正式开源了其自研的万亿参数级大模型——LongCat-2.0。这一消息在行业内颇具分量,因为该模型总参数量达到1.6T,平均激活参数约48B。在架构设计上,它引入了LongCat稀疏注意力机制与N-gram Embedding,核心目标十分明确:显著增强长上下文处理能力,同时进一步优化代码理解性能。美团的官方定位是“业界首个在五万卡国产算力集群上完成推理的万亿参数模型”,从这一表述来看,底气确实相当充足。

这里有一个关键背景——国产算力芯片在显存和带宽方面其实相对吃紧。因此,LongCat-2.0并非简单堆砌参数,而是从模型、芯片适配到部署三个维度同步发力:在模型层,采用稀疏注意力机制与ScMoE架构,核心思路是降低I/O与显存压力;在芯片适配层,通过Super Kernel技术有效减少算子启动开销,这一举措相当务实;在部署层,采用PD分离部署策略,兼顾首Token延迟与每个输出Token的生成时间,在用户体验与推理效率之间找到了较好的平衡点。
开源内容也相当全面,提供了BF16、FP8、INT8等多精度版本,并专门附带了针对国产算力优化的推理代码。从美团的态度来看,此次开源背后蕴含着更深层的意图——验证国产芯片是否足以承担复杂大模型的任务,同时推动存量算力在真实场景中真正发挥价值。目前,LongCat-2.0已在HuggingFace、GitHub和ModelScope上公开发布,感兴趣的话不妨前往了解。
你是一名 AI 行业编辑,请围绕下面这条热点输出一份资讯解读:
热点:美团开源万亿参数大模型LongCat-2.0同步开放国产卡推理要求:
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。
相关热点沙发管家是一款老牌安卓电视应用市场,提供应用管理、内存优化、垃圾清理、视频加速等功能,兼容小米、乐视等主流品牌及安卓4 0以上设备,支持远程安装和智能家居控制,资源丰富,操作便捷。
FreeGen是一款永久免费、无需注册、无限制生成的AI绘画工具,支持高定制化输出、提示词逆向生成与细化、多语言界面及智能分类筛选,社区互动便利,提供高效响应,让用户轻松创作高质量图像。
阿里云推出灵动人像LivePortrait,输入照片与文本或音频即可生成数字人视频。其核心为运动与生成模块,具备高精度口型同步与眼神主动控制技术,支持多模型选择,可应用于直播、教育、营销等场景。
QRBTF是一款AI二维码生成工具,适用于个人名片、商业包装、教育课件等场景,支持URL、文本、邮件、电话等编码类型。其核心亮点是快速高效生成个性化二维码,用户可定制外观与功能,并直接下载或分享。
- 日榜
- 周榜
- 月榜
热点快看
