快手广告领域大模型技术深度探索与实践

导读

在过去两年里，快手在大模型技术方向上，围绕广告场景做了一些探索性工作。这篇文章就是想把这些探索背后的动机、数据设计思路，以及最终如何落地到业务中的过程，做一个相对完整的梳理。先简单说说内容域广告预估面临的挑战，然后重点讲两件事：一是如何利用多模态和大模型技术打通全域行为，二是如何借助外部知识来增强广告系统。这两部分分别对应我们提出的商品内容统一表征框架 COPE，和 LLM 知识迁移框架 LEARN。

01 内容域广告预估挑战与大模型应用机会

快手是一个内容与电商深度融合的平台，从C端流量角度看，用户既可以通过自然流量（推荐、搜索）消费内容或商品，也可以通过广告渠道完成同样的事情。媒介形式也很多样——图文、短视频、直播、商详页、落地页……从B端供给侧来看，有个人或机构上传的自然作品、广告主投放的广告作品、商家上传的电商作品。这三种供给承载着不同的业务目标，彼此之间有交集，但大部分并不重合。

这样一个复杂的生态，带来的直接问题就是：用户行为散落在不同场景 × 不同媒介的矩阵上，导致单一场景下的行为数据非常稀疏。

再说推荐系统本身，目前的主流还是以ID为中心的分发体系——短视频靠视频ID，商品靠商品ID，直播靠直播ID或主播ID。这些ID体系之间天然不互通，想利用全域行为建模用户兴趣，就得面对跨域数据带来的挑战。此外，不同类型内容的生命周期差别很大：短视频的消费旺盛期可能就一两周，直播可能只有两三个小时，商品则长得多。这进一步加剧了问题的复杂性。

广告推荐面临的挑战更突出：它的数据比自然流量更稀疏。但机会同样明显——如果能打通全域数据，把推荐域和搜索域的自然流量行为与广告数据整合起来，就能更精准地刻画用户兴趣。这是第一个核心问题。

第二个问题是推荐场景里普遍存在的“信息茧房”。模型基于用户历史行为来训练，再推荐相关作品，很容易陷入数据循环，很难跳出来。如果没有外部知识的引入，这个循环几乎无法打破。

基于这些，过去两年多我们一直尝试借助多模态大模型技术，把APP内部的数据打通，让它得到更充分的利用。针对信息茧房问题，则希望借助大语言模型（LLM）的开放预训练能力，利用它的世界知识和强大的推理迁移能力，帮我们跳出原来的圈子。

02 全域行为利用：商品内容统一表征框架 COPE

先聊全域行为利用这块核心工作——商品内容统一表征框架 COPE。以电商推荐广告为例，内部商品分发依赖的核心要素是商品ID——这也是业界最通用的体系之一，基于商品ID做embedding学习。

这个体系简单实用，但商品ID本质上是为了平台运营和数据库唯一标识而设计的，缺乏语义和同品聚合能力。新商品不断上传，ID会持续膨胀，基于商品ID的embedding学习对稳定用户行为兴趣的捕捉会越来越困难。

举个例子：同一个商品在平台上可能对应不同的itemID，跨场景表现也不同——商详页上的转化行为，和短视频或直播上的行为往往差异很大。为了打通跨媒介的全域行为，我们在内部建了一套SPU ID体系，也就是同品ID——把具有相同商品属性的商品聚合成一个ID。这样ID空间更稳定，具备同品聚合能力，能把不同商品ID聚合在一起，也能把相关的live ID、video ID等聚合起来，有助于全域稳定兴趣建模。线上验证后确实取得了不错的收益。不过这个方案量级仍然较大，语义性不足——它只是一个同品随机分配的ID，特征学习高度依赖用户行为交互。

在此基础上我们又开发了第三套体系：商品内容统一表征体系。我们希望把商品在直播间、商详页、短视频等不同场景下承载的内容进行模态压缩，得到一个更鲁棒、更紧致的特征表示。这样一来，一方面可以在item侧增强特征，或者扩展用户行为序列；另一方面，降低对场景行为数据的依赖，缓解特征学习不充分的问题。

下面重点说说商品内容统一表征的构建流程。刚开始决定做这件事时，我们发现业界还没有成熟的模式可以参考，甚至连数据集都没有现成的。于是我们自己搭建了一个内容电商场景下的千万级多媒体训练样本，覆盖短视频、直播、商详页三种业务形态，专门为搜索推荐广告业务设计。基于这个数据集，我们把不同域的商品描述分别提取领域特定表征，再对齐到同一特征空间中，实现商品内容统一表征学习——这就是COPE框架。拿到业务收益后，为了进一步提升特征表达性，我们又引入了LLM，对短视频和直播里大量的文本信息做关键语义总结，同时跨领域模型参数共享，进一步提高表征鲁棒性。基于这个统一表征，我们实现了跨域同品和相似品检索，增强了单场景用户行为序列，在召回、粗排、精排等环节都有应用，从而实现全域跨场景兴趣增强建模。

做完这些工作后，发现业务收益相当可观，但业界还没有公开的研究。所以我们把数据集ROPE和建模框架COPE都开源了，希望推动这方面的研究进展，让有类似业务需求的同学能少走些弯路。细节可以看下面这几篇论文和相关开源实现。

数据集的构建是基础性的建设工作。数据本身是非结构化的，我们依托内部基础设施建设完成。最终数据集包含大约18万个SPU ID（不是单独的itemID），覆盖约1400多个类目，同时覆盖短视频、直播和商详页全场景。完成之后得到一个大致反映平台数据分布的数据集，基本符合平台商品的长尾分布特征。

接下来是如何实现跨域统一的多模态表征。模型结构并不复杂。底层输入侧：对于商详页产品，使用产品相关的图片和文本信息；对于视频侧，主要提取视频帧中的ASR和OCR文本；直播侧处理方式与视频侧相同。这些输入分别送进文本编码器、视觉编码器，最后融合（Fusion），得到该领域下的具体表征。Loss设计上，用了跨域对比损失来对齐不同域的商品表征，用商品分类损失来提升特征区分度。右图就是COPE框架示意图。

整个流程大致如上。内部大概在2023年初完成COPE框架的模型1.0实验。具体设置是：跨域模态内所有Encoder结构和参数共享，Projection Layer参数不共享；只有视觉侧特征参与实际计算，没用文本侧输入。主要原因是当时认为ASR噪声特别大，很多直播或短视频的介绍与商品具体属性关系不紧密。也就是说，COPE框架虽然是多模态框架，但1.0版本其实是一个横跨短视频、直播和商详页三个领域的单模态视觉模型。即便如此，比起各种开源多模态检索模型，在ROPE数据集上训练得到的COPE1.0模型，在多个跨场景检索数据集上实现了大幅性能领先。还有一个有趣的实验结论：COPE1.0模型在第三方专门针对电商商品设计的Product1M和M5Product等数据集上，zero-shot能力大幅超过了在该数据集上训练的模型。这说明COPE1.0已经可以作为商品统一表征的预训练模型使用，具备较鲁棒的视觉表征。

有了视觉模型，我们发现如果只依赖视觉信息，在直播间和视频里会漏掉大量有用信息。于是我们想把文本信息也纳入考虑，在1.0模型之上又研发了能考虑视频和直播侧ASR和OCR数据的COPE1.1模型——Ampere。核心设计思想是利用LLM提取视频和直播侧大量有噪声的冗余文本中的关键信息，提高信噪比（直接使用原始文本效果并不好）。我们设计了专门的prompt，利用大语言模型提取结构化信息，进而增强多模态表征能力。

在模型结构和Loss设计上，延续了COPE框架，但做了两个微调。首先，引入LLM抽取的高信噪比结构化信息作为Video和Live域的Text Encoder输入，而商详页域则用原标题等文本作为输入。在对齐方式上，和COPE1.0不同——不再使用domain-specific projection layer来提取每个域特征，而是用共享结构和参数的projection layer实现同模态跨域对齐，以提升模型性能。因为观察到如果引入文本侧跨域特征后不这样做，性能反而下降，而且融合模型越复杂（从Linear升级到Transformer再到Cross-attention），下降越多。而采用先对齐后融合的思路后，加入文本模态后性能上涨，且融合方法越复杂效果越好。整体比COPE1.0提升了约10个相对百分点。

目前商品内容统一表征已广泛应用于精排和召回模型。在精排侧，主要包括dense特征供给、i2i召回、扩展用户序列等；在召回侧，通过u2i2i和u2v2v等召回通路，都获得了显著且稳定的业务收益。

03 外部知识利用：LLM 知识迁移框架 LEARN

这一章聊聊我们怎么把大语言模型（LLM）的知识迁移到推荐系统中，用于利用外部知识。

2023年年中，内部经常讨论一个案例——“二胡与千斤丝”。平台上有一位50岁左右的男性用户，在没有任何与产品相关行为的情况下，突然转化了千斤丝。传统模式下，即使跨域后数据有所改善，如果没有这些数据，这几乎是一个推荐失败的例子。但通过观察用户在自然域的行为，我们发现他会看二胡相关的视频以及二胡周边配件。对于不熟悉二胡的人来说，很难猜到他为什么会买千斤丝。我们把用户行为的prompt组织后输入到ChatGPT中，它表现得很出色——能潜在召回用户可能感兴趣的商品，比如琴弦。通过多轮对话激发其内部知识，ChatGPT输出结论：用户可能会购买千斤丝。这个案例说明，LLM内部蕴含强大的世界知识和推理迁移能力，而这正是目前推荐系统（RecSys）所缺少的。目前RecSys的优势在于历史行为的协同知识，而如何结合世界知识和协同知识，正是我们要攻克的难题。

利用LLM改造推荐系统，我们经历了三个阶段。基于上述发现，首先想到也最早应用的是：利用预训练或轻度微调的LLM来抽取明文信息——无论item侧抽取物料信息，还是user侧推理潜在用户偏好，都以明文特征形式输出，作为item特征和user特征加入模型，通过sparse或dense方式都能获得不错收益。这个方法简单直接，部署效率高。但它高度依赖业务理解，prompt工程依赖业务经验，且信息有损——很难完全挖掘LLM中复杂的知识（有点像传统基于大规模ID特征+非线性模型的推荐系统流行之前，单靠特征工程难以挖掘数据之间的非线性关系）。因此，基于prompt的特征工程很容易陷入一次性工作，完成后难以进一步挖掘价值。

基于此，第二阶段我们考虑了重度微调大语言模型，把它调整为推荐系统。先不考虑计算资源的问题，我们将推荐域的数据组织成文本形式对齐到大模型，包括数据组织和loss设计。但这么做会面临几个问题：一旦引入大量数据，大模型本身的知识会出现灾难性遗忘，最终可能退化成一个大的基于DNN的传统推荐模型；大模型的context length有限，对行为活跃用户容易超出限制；训练和推理效率都是巨大挑战——把这么大的模型部署到线上，在毫秒级别返回数据，对工程和算法都是难题。

针对上述问题，我们转变思路：考虑如何把大模型的知识迁移到目前主流的推荐系统中，以较低的资源消耗增强推荐系统。实现知识迁移主要采用离线训练加在线适配的范式。

实际操作中，离线部分会把用户在平台上过去一年或几个月的数据按设定切分点切分——例如未来一个月作为测试集，过去九个月作为训练集。然后，把用户行为过的商品或短视频等信息（如商品标题、产品价格、相关权益信息等）输入到大模型中，得到content embedding，再通过训练一个用户偏好序列模型来建模用户兴趣。这样构建一个双塔模型结构，参数共享，同时训练item侧和user侧。我们认为最关键的是如何利用长期稳定的兴趣，因此使用dense all action loss来训练——这是一种常用的方法。

离线模型训练完成后，如何在线使用？我们在传统推荐模型上加了一个辅助塔来解决特征上线和适配问题。得到user侧和item侧表征后，进行融合，并通过多层感知器（MLP）处理，最终对转化率（CVR）的loss进行监督，进一步微调得到的embedding。同时，精排的loss也会回传到更新的embedding中。这样把离线更新与在线更新解耦，实现线上轻量级部署，在资源消耗较小且可控的情况下获得业务收益。感兴趣的读者可以参阅下面的论文。

关于离线效果，我们最初在业务场景数据上开展这项工作，构建数据集后离线验证并适配上线，结果表明能获得稳定的线上收益，主要体现为广告收入提升。而且实验结果表明，冷启和长尾上的效果更显著。我们与基于ID的SOTA方法，以及ID与文本融合的SOTA方法，在Amazon Review数据集上进行了对比，公开数据集测试表明该方法能得到非常稳定的大幅提升。在零样本泛化场景中，甚至比某些场景下的全监督微调表现更好。

以上就是我们近年来使用大模型和多模态增强推荐系统的一些工作成果。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：快手广告领域大模型技术深度探索与实践要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题