腾讯KaLM-Embedding登顶MTEB多语言榜：百亿参数开源模型解析

11月12日，腾讯开源最新公众号今日发布公告：来自腾讯微信团队的KaLM-Embedding开源模型再次创下全球新纪录。在最新发布的MTEB多语言通用Embedding模型权威评测中，新一代通用Embedding模型KaLM-Embedding-Gemma3-12B-2511以综合成绩位列全球榜首。

在涵盖全球1038种语言、共计131项任务的权威多语言评测体系MTEB中，KaLM-Embedding-Gemma3-12B-2511分别取得72.32（Mean Task）与62.51（Mean TaskType）的综合得分，荣登全球第一。

据腾讯开源介绍，在大模型技术快速发展的背景下，语义理解能力成为人工智能系统落地的关键。Embedding模型作为实现语义编码的核心技术，通过将文本转化为高维向量，支持非结构化内容可度量、可检索的特性，为上层应用提供基础支撑。

在RAG（检索增强生成）等主流架构中，Embedding模型能够从海量知识库中精准检索语义相关信息，动态构建高质量上下文，有效提升大模型生成结果的准确性与可靠性，抑制“幻觉”现象。

此外，Embedding技术还应用于文本分类、语义匹配、信息聚类、搜索推荐、多语言理解等多个领域，成为现代AI系统中不可或缺的语义基础组件。

附KaLM-Embedding-Gemma3-12B-2511核心亮点如下：

模型规模：参数量提升至120亿（12B），成为当前MTEB榜单上规模最大的Embedding模型之一，显著增强了模型的表示能力与泛化性能。

跨语言能力：在多语言语义对齐方面实现显著优化，支持更精准的跨语种语义理解与检索任务。

数据质量：基于经过深度清洗与筛选的大规模高质量语料进行训练，有效提升语义表示的一致性与可靠性。

训练策略：采用多阶段对比学习、Embedding蒸馏和模型参数融合等技术，进一步提升模型多维度能力表现与综合性能。

维度嵌套：支持多种向量维度选择，涵盖3840、2048、1024、512、256、128及64等多个层级，满足不同场景下的高效应用需求。

百亿参数模型KaLM-Embedding获取、技术论文等如下：

模型获取：https://huggingface.co/tencent/KaLM-Embedding-Gemma3-12B-2511

讨论反馈：https://huggingface.co/tencent/KaLM-Embedding-Gemma3-12B-2511/discussions

技术论文：https://arxiv.org/abs/2506.20923

开源协议：采用MIT许可证，支持商业用途，助力技术广泛传播与应用。