京东自研十亿级时序大模型达到行业SOTA

京东自研的十亿级时序大模型TimeHF，正引领供应链销量预测领域迈入新阶段。

核心成果一目了然：

• 京东自研TimeHF模型，使销量预测的准确率一次性提升了超过10%
• 开创性应用时序大模型的RLHF方案，有效降低了预测过程中的不确定性
• 完整技术路径，从数据集构建到模型训练，均由京东供应链算法团队自主研发

核心导读

京东供应链算法团队正式推出首个自研十亿级销量预测时序大模型——TimeHF。人类反馈的强化学习（RLHF）首次被成功应用于销量预测领域，推动预测准确度整体提升10%，显著降低了需求端的预测不确定性。在与各类时序模型的内外部数据集对比中，该时序大模型在模型规模与效果上均表现突出，全面超越行业现有水平。目前，该模型已在2万种商品上输出预测结果，用于自动化补货决策，其预测准确率相比线上系统大幅提升。

本文将深入解析京东供应链算法团队在数据、模型与训练方案方面的核心技术探索。

01 行业背景与挑战

时间序列预测是供应链管理、能源调度、金融风控等领域的核心基础技术。随着数据规模与业务复杂度的持续增长，传统方法——例如ARIMA、Prophet，以及早期的深度学习模型LSTM、TCN——面临几大关键瓶颈：

• 复杂模式捕捉不足：传统模型多依赖线性假设或局部时序建模，面对长周期依赖、多变量耦合等复杂时空关联时，往往显得力不从心。
• 零样本泛化能力弱：绝大多数监督模型需要针对单一场景重新训练，难以适应跨领域（例如不同品类商品销量预测）的迁移与复用需求。

近年来，大语言模型（LLM）在时序预测领域的适配尝试（如GPT4TS、TimesFM）逐渐成为研究热点，但至今尚未出现类似文本大模型领域的突破性成果。原因主要集中在以下两点：

• 数据集质量偏低：现有公开时序数据集普遍存在数据量有限、规律性较强、可扩展性不足等问题。小模型即可轻松拟合其规律，导致规模定律难以充分体现，模型在复杂场景下表现一般。
• 缺少有效的RLHF方案：RLHF技术在大语言模型的发展中扮演了关键角色——相比SFT，它能用更少的数据达成更优效果。然而，常用的RLHF框架并不适用于时序大模型场景。

02 技术方案详解

针对上述问题，供应链算法团队从零起步，对时序大模型的训练进行了系统探索，成功完成了业内首个十亿级纯时序大模型的训练，并在多个公开数据集上取得了SOTA成绩。在数据层面，团队构建了一个包含15亿样本的大规模高质量复杂数据集，并提出了时序切分、数据配比、合成数据集构造等训练集构建范式。在模型层面，团队提出了一个通用的PCTLM模型，通过Patch方式对数据进行切割，并在Patch投影过程中进行改进，以捕捉跨Patch间的信息，同时引入基于时间位置编码的分组注意力机制，用于训练大规模模型。在垂类优化方面，团队首次提出了时间序列预测模型的RLHF方案——由于常用RLHF框架不适用，开发了一套专为纯时序大模型设计的强化学习框架TPO。

2.1 数据集构建策略

优秀的基座大模型离不开规模庞大且内容丰富的预训练数据，但当前时序领域的公开数据集远远无法满足所需量级。为解决这一难题，团队混合了京东自营销量时序数据、公开数据集和合成数据，并通过质量过滤、去重、多样性排序和数据配比等手段整合基础数据。最终使用的预训练数据观测点量级约为15亿样本——这也是目前时序领域规模最大的数据集。

• 京东数据集：大部分数据来源于京东的销售数据，覆盖食品、服装等多个品类近3年的基础销售数据，并在不同维度上进行时序聚合。多品类与多维度的数据显著提升了数据的丰富度和异构性，数据量约12亿样本。
• 公开数据集：采用Monash时间序列数据库和TSLib数据库的训练数据合集，通过随机时间点切分来扩充训练样本，数据量约2000万样本。
• 合成数据集：一方面利用京东数据集和公开数据集中的单时序进行简单模型预测，生成合成数据；另一方面通过自定义趋势项、季节项和噪声项来生成合成数据，数据量约4亿样本。

数据清理环节包含以下几个关键步骤：

• 数据打标：针对非公开数据集中的每个样本，进行时序标签标记，例如时序长度、日均销量、零销量占比等反映时序特征的统计量，从多维度评估样本特点。
• 质量过滤：通过时序标签评估每条时序的质量水平，剔除时序长度过短、销量过于离散的数据，提升数据集整体质量。
• 去重：将数据随机分组，对组内时序进行聚类处理，并随机保留类内样本的前N个。
• 多样性排序：根据时序标签，对整体数据进行重新排序，确保每个Batch内的数据尽可能包含不同时序特征的数据。
• 数据配比：设定不同维度的配比——在数据类型上，合成数据占比20%，公开数据集占比4%，京东数据占比76%；在数据维度上，聚合时序数据占比30%，普通维度数据占比70%。

2.2 模型设计——PCTLM模型

PCTLM（Patch Convolutional Timeseries Large Model）采用基于（可重叠）Patch的方法，使用掩码编码器架构对时间序列进行建模。将输入划分为Patch后，投影到矢量表示中。为此，团队设计了一套基于卷积层的网络，通过通道和卷积核的方式捕捉跨Patch间的信息。此外，引入了具备时间位置编码的分组注意力机制，以实现时间序列的预测。核心的Transformer模块是一个仅包含编码器的架构，融合了近年来最先进的大语言模型架构中的各种改进方案。模型采用旋转位置编码（ROPE）对输入进行位置编码，并采用分组查询注意力（GQA）机制，以降低注意力计算的开销。

2.3 训练方案——RLHF的创新应用

在文本大模型领域，强化学习已被广泛用于微调，帮助模型学习更多偏好数据，从而增强效果。但时序大模型的输入输出均为连续数值，这一特性与文本处理存在本质区别。此外，大多数纯时序模型通常采用均方误差（MSE）、分位数损失等方法，存在只能进行多步预测的情况（无法进行TD误差），并且无法输出预测值的概率（无法计算概率及KL散度等）。因此，常用的PPO、RLOO等强化学习框架无法直接应用于时序大模型场景（时序概率预测模型除外）。

基于此，团队结合文本大模型的强化学习框架，提出了一套适用于纯时序大模型的强化学习框架——TPO（Timeseries Policy Optimization）。

• 输入：在原始时序输入的基础上，增加好坏预测的pair对。微调的偏好是希望预测结果更贴近好预测。
• 预测概率化组件：由于大部分纯时序大模型输出的是确定性预测，缺乏预测概率，无法计算RL中的KL散度和策略概率损失。团队构建了一个公共组件，可适配所有时序模型（不限于大模型），利用分布建模方法，将时序预测以及好坏预测假设服从N(μ,1)的正态分布，均值的计算直接利用输出的预测均值完成，从而快速输出预测概率。
• 优势函数：由于时序大模型直接输出多步预测，RL阶段避免采用TD-ERROR方式，借鉴REINFORCE思想，优势函数的增益来源于与基线奖赏的差值。在RL模型偏离原SFT模型不多的情况下，预测越贴近好预测，与基线奖赏的增益越大，则优势越大。
• 时序损失：在原始RL目标中增加一项预训练的损失，以保持在标准NLP任务上的性能，防止“忘本”。对于时序大模型，MSE是评估时序任务性能的最佳指标之一。增加一部分MSE损失，可提升微调时的时序预测能力。在构建MSE时，不仅关注预测与好预测的差距，也关注与坏预测的差距。实验表明，这种方式能够显著改善模型微调过拟合的问题。

03 模型效果评估

在公开数据集上，团队对比了当前表现较优的微调时序大模型GPT4TS，以及五种当前较为领先的full shot时序深度学习方法（PatchTST、Autoformer、iTransformer、DLinear、Informer）。经过SFT+TPO训练的PCTLM模型在大部分公开数据集上均可取得SOTA效果（粗体为效果最优模型，评估指标为MAE，数值越小越好）。

04 结论与展望

本文提出了一套全新的时间序列大模型训练流程（PCTLM+SFT+TPO）。PCTLM是一个通用的基础时序大模型，其最大尺寸也是迄今为止首个十亿级纯时序大模型，零样本性能优于目前行业内最先进的微调大模型GPT4TS以及全监督预测模型在各种时间序列数据上的准确性。同时，本文首次提出了时间序列预测模型的RLHF方案——TPO框架，在性能及效果上均优于目前最先进的RLHF框架（如PPO、RLOO等）。基于时序大模型的优异表现，京东已将自研时序大模型部署上线至供应链系统，目前在2万个SKU上采用时序大模型输出预测进行自动化补货，预测准确率相较线上系统大幅提升。

更详细的论文细节可参考《TimeHF: Billion-Scale Time Series Models Guided by Human Feedback》，原文链接：https://arxiv.org/abs/2501.15942。

峰会邀请信息

2025年4月19日，第75期DataFunSummit：大模型时代数据科学的变与不变将在DataFun线上社区举办。京东零售集团供应链团队负责人戚永志博士参与策划并出品的论坛【数据科学与供应链优化】将于4月19日下午举行，其中京东零售库存算法专家石正新将分享《TimeHF：供应链时序大模型的工业革新》，详细介绍如何构建高质量、多样化的大规模时间序列数据集以及时序大模型的RLHF方案，涵盖数据增强、数据平衡与多样性排名、时间序列策略优化（TPO）等核心技术。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：京东自研十亿级时序大模型达到行业SOTA要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题