JetBrains开源12B参数Mellum2模型升级AI智能体编程

JetBrains 近日发布了一项备受瞩目的动态：他们正式开放了 Mellum2 模型的源代码。这绝非一次简单的版本升级——从 Mellum 到 Mellum2 的演进，蕴含了许多令人瞩目的变革。

先看最直观的提升。Mellum 最初被定位为代码补全模型，而 Mellum2 现已直接进化为一套完整的编码辅助工具。更关键的是，它的上下文窗口从原先的 8192 Token 大幅扩展至 131072 Token。这意味着什么？开发者可以在 Apache 2.0 许可协议下，自由部署其基础版、指令版以及思考版，应用场景因此变得极为广泛。

参数规模方面，Mellum2 整体达到了 12B，相比 Mellum 的 4B 实现了质的飞跃。但真正精妙之处在于其架构设计——采用了稀疏混合专家（Mixture-of-Experts）框架。实际激活参数仅为 2.5B，这意味着即便在标准硬件上，计算速度依然能够保持出色表现。可以说，它在规模与效率之间找到了一个务实的平衡点。

从能力维度来看，Mellum2 能够胜任的任务相当全面：生成与编辑代码、调用外部工具、执行多步骤的智能体（Agentic）工作流，并且支持长时间对话。这已不再是简单的“帮你写几行代码”，而是朝着更自主的软件工程助手方向迈进。

JetBrains 对 Mellum2 的定位同样耐人寻味。他们明确将其部署在几个关键场景中：AI 工作负载的路由与编排、低延迟的检索增强生成（RAG）管线、复杂工作流中快速响应的子智能体（Sub-agent），以及私有的本地 AI 部署。可以看出，这不仅是面向开发人员的工具，更是一个可以嵌入工程系统底层的基础模型。

训练方法论上也值得深入探讨。团队在预训练阶段采用了三阶段数据课程设计：数据混合逐步从多样化的网页内容，过渡到精选的代码与数学内容。这种渐进式的数据策略，使模型在走向专业领域时能够更自然地“对齐”到软件工程任务上。