基于LSTM神经网络的公交行程时间预测研究

先来看一个核心问题：公交行程时间预测，到底难在哪里？传统的预测模型，比如卡尔曼滤波器、支持向量机、决策树以及一些常规的神经网络，它们有个共同的短板——几乎都忽略了历史时刻中的信息。简单来说，这些模型看问题的方式是“单点”的，只看当前这一刻的数据，而不去理会过去几分钟、几十分钟里发生了什么。但公交行程时间偏偏是个时序问题，当前时刻的数据与历史数据有着很强的关联性，这种“断章取义”的做法，自然会导致预测精度上不去。

基于这个痛点，这篇文章尝试提出一种融合了Attention机制的LSTM神经网络预测模型。下文将具体拆解这个模型的设计思路、关键组件以及它的实测表现。

0 引 言

公交行程时间是智能交通系统里一个很核心的指标。它准不准，直接影响着公交优化排班、实时调度、交叉口优先控制等一整套系统的运行效果。可以说，对公交资源动态配置和城市交通结构规划，它都有着深远的意义。

近年来，国内外学者在这个问题上花了不少精力，提出的预测模型大致可以分成四类：

1）卡尔曼滤波器模型。 比如有研究者在异构交通条件下分析了时间的离散化模式，构建了基于卡尔曼滤波器的预测模型。但问题是，这类模型考虑的因素比较单一，而且天生适合线性系统，放在高度非线性的公交行程时间预测上，难免有点水土不服。

2）支持向量机模型。 有学者选取时段、天气等7维特性，构建了改进的SVM预测模型，在厦门BRT-1路的数据上验证了精度。不过，这类模型计算复杂度高，处理大规模数据时效率是个硬伤。

3）决策树模型。 比如基于梯度提升回归树的模型，测试结果显示比SVM和自回归平均法的精度有所提升。这类模型可解释性强，但速率低、容易过拟合的问题依然存在。

4）神经网络模型。 这是当前行程时间预测中使用最广泛的一类。例如，有研究将萤火虫算法与BP神经网络结合，也有面向动态站点构建的BP神经网络模型，实现了跨越多个站点的预测。神经网络能较好地拟合非线性问题，思路是对的。但关键在于，公交行程时间具有明显的时序性——当前时刻的数据与历史时刻密切相关。上述模型的普遍不足，恰恰在于它们仅关注当前时刻的信息，没能充分利用历史时刻的数据，模型精度也因此受限。

深度学习与传统学习方法相比，具备更强大的数据学习和抽象能力。作为目前最热门的深度学习技术之一，LSTM能保存历史信息，既继承了传统神经网络的优势，又能挖掘历史时刻数据，在处理时序问题上很有潜力。有研究使用英国66个路段的数据构建了改进的LSTM模型，也有学者用LSTM网络进行预测并与BP神经网络对比，结果都证明LSTM精度更优。然而，传统的LSTM有一个固有缺陷：它将输入序列转换为定长向量来保存所有信息，这导致模型记忆容量有限，在处理长序列问题时容易出现信息丢失。

Attention机制的提出恰好能弥补这一缺陷。它能为不同信息赋予权重，加强对重要信息的记忆，忽略无关信息。近年来，结合注意力机制的神经网络已成为研究热点，在机器翻译、图像分类等领域应用广泛，但在公交行程时间预测上的研究相对较少。因此，文章提出一种基于Attention机制的LSTM预测模型，利用LSTM模块对历史数据中的多种因素同步分析，同时针对LSTM的局限性，融入Attention机制自动抽取关键信息，优化模型性能。最后，与五种常见方法对比，该模型展现出更高的预测精度。

1 问题定义

文章的目标是基于公交企业积累的大量行程时间样本，设计一个可靠的预测方法。公交行程时间在不同日期、时段随机变化，与路况、事故等动态因素密切相关。值得注意的是，班次之间时间间隔较短，相邻班次的路段状况具有相似性，因此历史时刻的数据中蕴含着影响未来的信息。换句话说，当前时刻的行程时间与历史时刻有关。公交行程时间具有时序性，是一个前后关联的时间序列。

基于这个时序特性，问题可以这样描述：由前s个时刻的历史行程时间序列 [y_t-s, ..., y_t-2, y_t-1]（s代表时间步长度，即历史时刻个数）和历史特征 [x_t-s, ..., x_t-2, x_t-1] 来预测t时刻的公交行程时间y_t。其中，x_i = (x_i,1, x_i,2, ..., x_i,n)^T代表第i时刻影响行程时间的多种因素的取值向量，n代表影响因素个数；而F是函数，代表预测值与输入值之间的某种映射关系。文章的核心任务，就是找到合适的模型来拟合这种复杂的非线性映射。

2 公交行程时间影响因素分析

常见的LSTM模型通常只把“历史行程时间”这一种数据作为输入。但行程时间受多种因素影响，如果模型只对单变量进行处理，显然无法充分考虑各种因素的变化。因此，这一步需要先系统分析一下哪些因素会影响公交行程时间。

影响公交行程时间的不确定因素，主要来自三个方面：道路因素、交通因素、天气情况。道路和交通因素比如路段状况、行人数量、乘客数量等，这些动态因素时刻影响着行程时间；天气情况如降雨、降雪、大雾等，会影响公交速度和司机反应时间，从而间接影响行程时间。

根据上述分析，文章选取了行驶特征集来描述道路和交通因素，选取天气特征集来描述天气因素，作为模型的输入。具体的获取和处理方式如下：

1）行驶特征集

路况、人流等实时信息无法直接获取。为反映车辆行驶路段状况和人流量等信息，选取了当天是否是周末、是否是高峰期等静态特征，同时提取车辆平均速度、车辆行驶方向等作为动态特征，用以反映实时交通状况。

2）天气特征集

采用网络爬虫获取结构化的天气数据，主要包含时间、温度、气压、天气状况等属性。选取其中与行程时间密切相关的温度和天气状况作为天气特征集。

综上，选取的输入特征一共6个：当天是否是周末、是否是高峰期、车辆平均速度、车辆行驶方向、温度、天气状况。也就是说，影响因素的个数n=6。

3 基于 Attention-LSTM 的公交行程时间预测模型

公交行程时间是一个典型的时间序列，LSTM网络能自动保存历史序列信息，更好地利用其时序性。但问题在于，不同信息对预测时刻的影响程度是随时间动态变化的。举个例子，对早晚高峰期来说，人流量对行程时间的影响要远大于平峰期；但单一的LSTM模型把所有信息都压缩到定长向量中，无法自动识别哪些是影响当前行程时间的重要部分，这就降低了信息利用率。Attention机制的加入能解决这一问题——它为模型分配不同的注意力权重，使模型能自动处理不同信息的重要程度。文章尝试将LSTM与Attention机制结合，用于公交行程时间预测。提出的Attention-LSTM预测模型整体结构如图1所示。

整个模型可以拆解成四个功能模块：输入层负责将预处理后的数据转换成模型可读的形式；多变量LSTM模块负责处理包含多种影响因素的输入数据，获取特征信息；Attention机制负责学习一组注意力系数，对特征信息进行筛选；全连接层接收筛选后的特征信息，处理得到最终的行程时间预测结果。输入层和全连接层是完成预测必需的组件，结构由数据本身维度决定。整个模型的重点在于多变量LSTM模块与Attention机制。

3.1 多变量 LSTM 模块

基本的LSTM网络是由多个记忆神经元按时间次序连接而成的。经典的记忆神经元内部结构如图2所示。

记忆神经元内部由输入门i_t、遗忘门f_t、输出门o_t三种门结构组成，它们共同控制着信息的更新与遗忘，计算公式见式（2）~式（7）：

其中，σ代表sigmoid函数；C_t和C_t-1分别代表LSTM单元在t时刻和t-1时刻的状态；C_t代表当前单元状态更新值；h_t和h_t-1分别为当前单元和上一单元的中间状态；w_f，w_i，w_o，b_f，b_i和b_o为模型训练得到的权重矩阵和偏移量。

可以看到，LSTM网络通过这种精巧的门结构实现对信息的继承，从而获得更长期的记忆能力。文章利用这一特性，在基本LSTM的基础上设计了多变量LSTM模块。该模块由两层LSTM网络堆叠而成，在t时刻的输入为F_t = [y_t-1, x_t-1,1, x_t-1,2, ..., x_t-1,n]^T，它不仅接收上一时刻的历史行程时间真实值y_t-1，还同时对代表多种影响因素的序列 [x_t-1,1, x_t-1,2, ..., x_t-1,n]^T 进行处理。多变量的引入，使模型能从更多方面接收反映行程时间的信息，更充分地挖掘历史数据。最终获得整个模块在t时刻的输出向量 [h_t-s+1, ..., h_t-1, h_t]，其中蕴含着用于行程时间预测的多维度信息。

3.2 结合 LSTM 的Attention机制

文章引入的Attention机制结构如图3所示。它对LSTM模块输出的向量 [h_t-s+1, ..., h_t-1, h_t] 进行学习，得到一系列注意力系数 [α_t-s+1, ..., α_t-1, α_t]，用来表示每一中间状态的重要程度。最后，对各中间状态加权求和得到输出序列H，计算公式见式（8）~式（10）。

其中，V，W代表权重矩阵；b为相应的偏置值；e_t为计算t时刻注意力系数α_t的中间值。融合Attention机制后，模型可以自主学习各状态的重要程度，从复杂数据中提取出关键部分。

4 实验与分析

为了检验所提出模型的真实性能，基于实际数据开展实验，并与多种常见预测模型进行对比，验证该模型的有效性。

4.1 数据预处理

采用某市290路公交车2017年1月1日至2月28日不同班次产生的GPS数据作为研究对象。数据每一行代表一条公交行程记录，每一列代表不同的属性。为避免数据缺失对模型预测造成影响，采用缺失值前1天以及后1天相同时刻的数据均值补全缺失数据。同时，为使输入数据数量级保持一致，采用最大最小值归一化法，将数据限定在[0, 1]范围内。

4.2 模型参数设置及评价指标

通过多次实验发现，当时间步长s为9、LSTM隐含层节点数为8时，模型表现最佳。为提高训练速率，采用批量训练的方式，每批包含72组样本数据。为避免过拟合，在每层LSTM网络后增加随机失活层，参数设置为0.2。选择平均绝对误差作为训练的损失函数，采用Adam算法对网络进行训练，迭代次数设置为100次。

为评估模型的可靠性，同时采用平均绝对误差与平均绝对相对误差评估模型的预测能力。具体公式见式（11）和式（12），其中ŷ_i表示预测值，y_i表示真实值，m表示实验所用数据总量。

MAE越小，表示误差越小；MAPE越小，表示预测精确度越高。

4.3 结果分析

所用的数据集共12157条，选择前9000条作为训练集，后3157条作为测试集。模型训练过程中的误差变化趋势如图4所示。可以看出，Attention-LSTM模型误差不断下降，较快达到收敛，最终误差降为0.544，说明训练结果良好。

为更直观地验证模型预测效果，利用该模型对测试集中随机选取的1000个样本进行预测，结果如图5所示。可以看到，所提出的模型能够较好地拟合行程时间的剧烈变化。

为分析Attention机制的影响及有效性，对模型预测过程中不同时间步的注意力系数结果进行了展示，如图6所示。

图6传递出一个很关键的信息：不同时间步对行程时间的影响程度完全不同。注意力系数使得模型重点关注第2、3、9个时间步，而对第5、6个时间步的关注较低。这说明Attention机制确实能使模型自动关注重要的历史时刻，提高了对关键信息的筛选与利用能力。同时，这也佐证了公交行程时间是一个明显的时序性数据——模型的注意力并非集中在距离预测点较近的时间步上，而是对长时间步中的信息都有关注。

为进一步比较所提出的Attention-LSTM模型与其他模型的预测性能，构造了BPNN、RNN、LSTM、GBRT、XGBoost等五种常见的预测方法，在相同的测试集上进行预测，结果如表1所示。

从表1可以得出以下结论：

1）与其他几种常见预测模型相比，本文构建的Attention-LSTM模型在各项指标中均为最优：在测试集中MAE=137.729，MAPE=4.952%。与RNN相比，预测精度提高了约21.9秒，精度提高了约1.8%，这证明了LSTM在处理公交行程时间这类长序列问题上的优势；与未融入Attention机制的LSTM模型相比，预测结果提高了约8.7秒，精度提高了约0.4%，再次证明了Attention机制的有效性。

2）基于深度循环神经网络的模型（Attention-LSTM、LSTM和RNN）的预测性能明显优于传统的浅层学习方法（BPNN）和决策树类方法（GBRT、XGBoost）。原因在于，模型深度和结构的提升能够更全面地捕捉数据中的信息，而循环神经网络类的模型能够很好地利用行程时间的时序性，充分挖掘历史数据，从而提升预测精度。这从侧面说明了深度学习在预测问题上的巨大优势。

5 结 语

文章针对公交行程时间的时序性，提出了融入Attention机制的LSTM预测模型。该模型利用LSTM模块对多维度特征进行捕捉，并通过Attention机制克服了LSTM的局限性，实现了对复杂信息的自动筛选。实验结果表明，LSTM在行程时间预测问题上很有优势，而Attention机制的引入，使模型能够自动关注重要的历史时刻，有效提升了预测精度。与五种常见预测方法的对比结果证实，该模型具有更高的预测可靠度，具备较高的实用价值。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：基于LSTM神经网络的公交行程时间预测研究要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题