3 个月前

时间序列胜过五位专家:用于交通流预测的异质专家混合模型

时间序列胜过五位专家:用于交通流预测的异质专家混合模型

摘要

准确的交通流量预测面临诸多挑战,亟需深入理解时间与空间特征及其在多变量之间的复杂交互关系。近年来,交通预测系统的主要进展得益于复杂序列中心化模型的发展。然而,现有方法通常在每个时间步嵌入多个变量及空间关系,这可能阻碍变量中心化学习的有效进行,最终导致传统交通预测任务性能下降。为克服上述局限,本文提出了一种面向变量中心化与先验知识中心化的建模方法。具体而言,我们提出了一个异构专家混合模型(Heterogeneous Mixture of Experts, TITAN),用于交通流预测。TITAN 初始包含三个专注于序列中心化建模的专家,随后设计了一种低秩自适应机制,使模型能够同时实现变量中心化建模。此外,我们采用先验知识中心化的门控策略对门控过程进行监督,以确保变量路由的准确性。在两个公开交通网络数据集 METR-LA 和 PEMS-BAY 上的实验表明,TITAN 能够有效捕捉变量中心化依赖关系,同时保障精确的路由决策。相较于此前的最先进(SOTA)模型,TITAN 在所有评估指标上均取得显著提升,性能提升幅度介于约 4.37% 至 11.53% 之间。代码已开源,地址为:https://github.com/sqlcow/TITAN。

代码仓库

sqlcow/TITAN
官方
pytorch

基准测试

基准方法指标
traffic-prediction-on-metr-laTITAN
12 steps MAE: 3.08
12 steps MAPE: 8.43
12 steps RMSE: 6.21
MAE @ 12 step: 3.08
MAE @ 3 step: 2.41
traffic-prediction-on-pems-bayTITAN
MAE @ 12 step: 1.69
RMSE: 3.79

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
时间序列胜过五位专家:用于交通流预测的异质专家混合模型 | 论文 | HyperAI超神经