蚂蚁集团大模型推荐算法与应用实践

推荐系统在用户与商品之间架起了一座桥梁，但长久以来，曝光偏差和流行度偏差这类问题始终是绕不过去的坎。当大模型带着海量的世界知识登场，能否用它来修正这些偏差，让推荐结果更精准、更公平？这篇文章就来拆解一下，我们在过去一年里尝试的几条技术路径。

背景介绍

先画一张推荐系统的运作图：用户产生行为反馈→模型学习偏好→生成推荐→用户交互→反馈回流，循环往复。这个闭环本身是成熟的，但如果训练数据中天然存在偏见——比如热门商品被过度曝光、冷门好物无人问津——模型学到的就可能是畸形的偏好分布。

语言模型的发展轨迹，从1990年代的统计NLP，到2010年后的深度学习浪潮，再到2013年Word2vec、2018年BERT，最后是2022年GPT-4带来的爆发。大模型的涌现能力（emergent capabilities）带来了更强的推理能力，但百亿、千亿的参数规模使它很难直接部署到线上。所以核心矛盾变成了：如何把大模型的推理能力以可接受的成本“塞”进线上推荐系统。

推荐模型本身也在进化：从矩阵分解这类浅层模型，到2016年左右的Wide&Deep等深度模型，再到如今主流的DNN（例如Wide&Deep或其多目标优化变种）。现在，大型模型开始渗透进来，但并非简单的“生成式推荐”替代，而是将大模型的能力作为增强组件融入现有框架。

在融合过程中，我们遇到了三大挑战。第一，推荐系统最关键的信号是协同过滤产生的信息，单靠语义模型往往效果不佳。第二，计算开销与推荐效果之间需要精准权衡。第三，我们希望把大模型对用户行为的深度理解蒸馏到更轻量的模型（如LLAMA）中，让它们也能具备推理能力。

针对这些问题，我们过去一年探索了几条路径，核心思路可以概括为：让大模型“生产知识”，再由推荐模型“消费知识”，而不是让大模型直接做实时推荐。具体包括：

• 两阶段方案：大模型负责离线生产结构化或文本形式的推理知识，推荐模型再消化这些知识图谱。
• 蒸馏方案：将ChatGPT等大模型的推理能力逐步迁移给LLAMA以及更轻量的序列模型，最终部署小模型到线上。
• 种子用户池方案：只为核心种子用户生成推理知识，其他用户通过检索匹配，得到embedding后供线上模型使用。

下面逐一展开。

利用大模型进行知识提取

把大模型当作知识提取器，核心是从线上的语料（文本、已有知识图谱）中生产出适配的知识图谱（KG）。传统方法需要大量标注数据来做实体和关系抽取，但只能预测已有实体对之间的关系，无法产生新知识。大模型的不同之处在于，它可以利用开放知识，生成图谱和语料中原本不存在的三元组，让KG更加丰满。

具体流程分两步：先确定需要生产的关系类型，再基于这些关系生成实体。比如以“阿里巴巴”为源节点，让大模型推理出“与阿里巴巴相关的品牌和企业”这类关系，然后生成“腾讯”“字节跳动”等目标实体。整个过程基于条件概率：给定源节点S，大模型推理出关系R和目标实体T。框架中三个关键步骤是知识获取、关系过滤和目标实体生成：①大模型从S中提取相关知识；②基于这些知识生成关系R；③结合S的知识和R生成目标实体T。难点在于确保大模型真正理解所需的领域知识，比如看到“Air”，我们要它联想到球类品牌而不是空调。

关系过滤是另一个挑战——一个实体可能涉及数百种关系，需要设计精巧的prompt让大模型从关系池中挑出正确的那些。我们设计了一个框架，核心是关系检索和关系过滤。先用小模型从大量关系中生成与给定实体相关的候选关系集，再让大模型根据实体、关系描述和文本描述进行过滤。为了引导大模型高效生成，我们把知识分为结构式、描述式和继承式三类，通过组合这些知识的prompt循序渐进地驱动大模型，避免浪费算力生成无关信息。

在生成目标实体时，我们用了两种策略：一是通过KG-BERT排序，确保目标节点与源节点语义一致，只保留Top 20%-30%的高一致性节点；二是强调推理一致性，如果多个大模型推理结果都指向某个实体，就认为它更可靠。

与现有的SOTA图谱补全方法相比，我们的框架在三个指标上表现突出：准确度（生成的实体是否正确）、创新性（能否生成图谱中不存在的实体）、多样性（实体是否集中在单一领域）。更关键的是，生成的实体要与支付宝小程序业务紧密结合——比如“米小圈上学记”或“果叔”。对于“果叔”这类实体，我们特意补充背景知识，帮助大模型理解它是水果品牌，从而正确关联“鲜丰水果”或“天天果园”，而不是错连到“果儿教育”或“佳能”。调整后，准确率、创新性和多样性均有显著提升。

知识的重要性不言而喻，但传统模型处理知识的方式过于粗暴。RAG在知识挖掘中扮演重要角色：通过相似性模型（如BM25）召回相关文档，再交给LLM生成知识和关系。但仅靠相似性无法保证文档的有效性。举例来说，提到“乔治马丁”，传统方法可能把“乔治马丁是作者”排在首位，但我们需要的其实是“乔治马丁是《冰与火之歌》的作者”。为此，我们引入了一个基于实用性（Utility）的模型来优化RAG，把检索流程扩展为四层：①相似性初步召回；②实用性精排；③生成摘要压缩文档长度（因为召回的文档可能成千上万，且长度不一，需要压缩到模型能处理的范围）；④将压缩后的文档送给大模型做知识生产。

最终产出的知识以图谱形式结构化存储。这些图谱可以直接作为特征融入GNN或图模型，也能助力下游任务。一个简单的应用是：通过图谱融合蚂蚁集团支付网络上的所有场景和物品，训练通用图谱预训练模型，再复用到下游业务。但生成的图谱存在长尾和噪点问题，所以我们需要持续做去噪和可靠性提升。对于下游应用，关键是如何有效利用预训练表征——由于预训练是多域的表征学习，而特定业务可能只需要部分域的信息，因此需要进行表征微调，实现自适应迁移。例如，在A、B、C、D四个域预训练后，若最终应用于E域，可能只需要A、B两域的结果进行微调即可。

大模型作为教师模型

另一种思路是把大模型当作教师模型。第一阶段，将ChatGPT或GPT-4的推理能力蒸馏到LLAMA2或LLAMA3上。具体做法是：通过预设prompt让大模型生成推荐理由（基于预定义模板），然后使用简化模板让LLAMA模型也尝试生成推荐理由。第二阶段，用生成式Loss微调小模型，使其具备推理能力。训练完成后，模型通过prompt为用户行为做T+1推理，推理结果通过文本编码器转化为表征，直接用于线上模型。

我们采用了思维链（CoT）prompt来生成推荐理由。先根据用户行为推断出品牌和类目偏好，再基于这些偏好从粗到细推荐——先推荐品牌和类目，再推荐具体商品。然后使用教师模型的回答作为语料，微调LLAMA模型，使其能模仿教师生成推荐理由。

简单的生成式Loss过程就是让小模型学习如何预测出与大模型一致的推荐理由。基于微调后的LLAMA2，我们能够做T+1推理：针对每个用户的行为序列，用三步CoT生成推荐理由，然后通过BERT将理由转为embedding得到用户行为的大模型表征，同时用BERT生成物品的表征，再通过concatenate和attention机制将两者结合，增强下游推荐模型的性能。

我们在GRU4Rec、SASRec和SRGNN等不同backbone上做了评估，分别代表简单序列模型、注意力模型和图模型。结果发现，大模型通过引入开放知识，对长期冷启用户有显著帮助——因为语义信息能弥补协同信号的不足。同时，模型有效缓解了流行度偏差问题，在两个长尾分布的数据集上表现尤为明显：与SASRec相比，我们的模型在推荐长尾物品时更均衡，整体物品分布更平稳，能有效推荐出一些原本被埋没的优质物品。

但蒸馏到LLAMA模型后，模型体积仍然不小。我们想进一步把它压缩到更小的序列模型中。这个过程中遇到几个挑战：一是教师模型的知识可靠性存疑；二是从语言模型到序列模型的蒸馏跨越了不同模型类型，参数差距大，学生模型难以容纳教师的知识；三是语义不一致，序列模型与原始语言模型之间存在天然差异。

针对这些问题，我们设计的模型核心在于排名蒸馏和embedding对齐。具体三个策略：①选择LLAMA2作为教师模型，因为它排名靠前的分值更高；②考虑LLM生成的描述与目标物品的接近程度，提升排名权重；③如果教师模型认为某物品是优质且排名靠前的，学生模型也给予更高排名。基于这些策略，我们设计了排名损失函数，用于蒸馏小型序列模型。

最终效果上，DLLM2Rec模型在各个backbone上表现显著，相比一些大模型推荐方法也有明显提升。这条路径让我们看到了大模型能力向轻量级模型迁移的可行性。

Q&A

Q1：蒸馏到LLAMA2-7B还是70B？效果如何？
我们蒸馏的是LLAMA2-7B，效果达到预期。它从GPT3.5身上学到了强大的推理能力，能深入理解用户行为中的内在逻辑，而不只是推荐用户已知的物品，这有助于消除传统推荐模型中的偏差，更准确地预测用户真正想要的东西。

Q2：蒸馏后的小模型用于离线推理还是在线推理？
LLAMA2用于离线推理，在线环境仍然跑不了。但后续蒸馏出的序列模型非常轻量，就是传统推荐模型的规模，可以部署到线上。

Q3：对于数据稀疏的低频场景，大模型+推荐系统怎么设计？
蚂蚁/支付宝的数据天然稀疏，我们通过大量知识抽取工作，让稀疏场景能泛化出一些高活场景，并通过知识做连接。大模型利用RAG等策略，检索抽取的知识或直接将图谱特征应用在稀疏场景，来强化特征表示。过去一年，我们持续在做通过知识挖掘知识、打通稀疏与丰富场景数据链路的探索。

以上就是这次分享的核心内容，希望给大家提供一些参考。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：蚂蚁集团大模型推荐算法与应用实践要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题