Qwen3模型家族再添全新成员 Embedding系列模型正式登场
就在今天,Qwen模型家族正式迎来了一位新成员——Qwen3-Embedding系列模型。这次发布的重点很明确:专为文本表征、检索与排序任务打造,深度继承Qwen3在多语言文本理解上的基因。简单来说,如果你需要处理文本向量化、搜索排序这类任务,这个系列值得你认真看看。 先梳理一下核心亮点: Qwen
就在今天,Qwen模型家族正式迎来了一位新成员——Qwen3-Embedding系列模型。这次发布的重点很明确:专为文本表征、检索与排序任务打造,深度继承Qwen3在多语言文本理解上的基因。简单来说,如果你需要处理文本向量化、搜索排序这类任务,这个系列值得你认真看看。
先梳理一下核心亮点:
- Qwen3-Embedding系列模型正式发布
- 覆盖文本表征、检索与排序全链路
- 多语言理解能力突出,基准测试表现亮眼
- 已开源在Hugging Face、ModelScope、GitHub,同时可通过阿里云百炼平台调用服务
(注:下表中「MRL Support」指模型是否支持自定义最终向量维度;「Instruct Aware」指模型能否根据任务定制输入指令。)
多项基准测试的结果已经出来了,Qwen3-Embedding系列在文本表征和排序任务上展现了相当不错的实力。
目前,该系列模型已在Hugging Face、ModelScope和GitHub全面开源,你也可以直接在阿里云百炼平台使用最新的文本向量模型服务。
开源地址一览:
- ModelScope:
- Hugging Face:
- GitHub:
- 技术报告:
主要特点
卓越的泛化性
Qwen3-Embedding系列在多个下游任务评估中达到了行业领先水平。其中,8B参数规模的Embedding模型在MTEB多语言Leaderboard榜单上位列第一(截至2025年6月6日,得分70.58),性能甚至超越了不少商业API服务。排序模型同样表现出色,在各类文本检索场景中都能显著提升搜索结果的相关性。
灵活的模型架构
该系列提供了从0.6B到8B参数规模的三种配置,你可以根据实际场景在性能与效率之间灵活取舍。而且,开发者可以自由组合表征模块与排序模块,实现功能扩展。此外,模型还支持两项定制化特性:
- 表征维度自定义:允许你根据实际需求调整表征维度,有效降低应用成本;
- 指令适配优化:支持自定义指令模板,以提升特定任务、语言或场景下的性能表现。
全面的多语言支持
Qwen3-Embedding系列支持超过100种语言,覆盖主流自然语言和多种编程语言。无论是多语言检索、跨语言匹配,还是代码理解场景,这套模型都能轻松应对。
模型架构
基于Qwen3基础模型,Embedding模型和Reranker模型分别采用了双塔结构和单塔结构的设计。通过LoRA微调,基础模型的文本理解能力得到了最大程度的保留和继承。
具体实现如下:
- Embedding模型接收单段文本作为输入,取模型最后一层「EOS」标记对应的隐藏状态向量,作为输入文本的语义表示;
- Reranker模型则接收文本对(例如用户查询与候选文档)作为输入,利用单塔结构计算并输出两个文本的相关性得分。
模型训练
Qwen3-Embedding系列模型延续了GTE-Qwen系列的多阶段训练范式,但针对具体应用场景做了深度优化。
对于Embedding模型,我们采用三阶段训练架构:
- 第一阶段:通过超大规模弱监督数据进行对比学习预训练;
- 第二阶段:基于高质量标注数据进行监督训练;
- 最终阶段:通过模型融合策略融合多个候选模型,提升整体性能。
这种分阶段机制有效平衡了模型的泛化能力与任务适配性。而在Reranker模型的训练中,基于实验验证结果,我们直接采用高质量标注数据进行监督训练,以提升效率。特别值得说的是,在Embedding模型的第一阶段弱监督训练中,我们构建了一套多任务适配的Prompt体系,利用Qwen3基础模型的文本生成能力,针对不同任务类型和语言特性动态生成了大量弱监督文本对——这突破了传统方法依赖社区论坛或公开数据筛选的局限,实现了大规模弱监督数据的高效生成。
未来发展
Qwen3-Embedding系列模型仅仅是一个起点。依托Qwen基础模型的持续迭代,我们接下来会重点提升文本表征与排序模型的训练效率,以增强实际部署中的性能表现。
除此之外,还有计划拓展多模态表征体系,构建跨模态语义理解能力。期待更多开发者基于这一系列探索更广泛的应用场景,推动模型在不同业务中的深入落地。

