3 个月前

STAEformer:时空自适应嵌入使普通Transformer在交通预测中达到SOTA性能

STAEformer:时空自适应嵌入使普通Transformer在交通预测中达到SOTA性能

摘要

随着智能交通系统(Intelligent Transportation System, ITS)的快速发展,精准的交通流量预测已成为一项关键挑战。其核心瓶颈在于如何有效捕捉交通数据中复杂的时空动态模式。近年来,研究者提出了大量结构复杂的神经网络模型以应对这一问题,然而,网络架构的持续演进已逐渐面临性能提升乏力的困境。在本研究中,我们提出一种新型组件——时空自适应嵌入(Spatio-Temporal Adaptive Embedding),该组件能够在基础Transformer模型上实现卓越的预测效果。我们所提出的时空自适应嵌入Transformer模型(STAEformer)在五个真实世界交通预测数据集上均取得了当前最优的性能表现。进一步实验表明,时空自适应嵌入在交通预测中发挥着关键作用,能够有效捕捉交通时间序列中的内在时空关联性与时间顺序信息。

代码仓库

xdzhelheim/staeformer
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
traffic-prediction-on-metr-laSTAEformer
MAE @ 12 step: 3.34
MAE @ 3 step: 2.65
traffic-prediction-on-pems-baySTAEformer
MAE @ 12 step: 1.91
traffic-prediction-on-pems04STAEformer
12 Steps MAE: 18.22
traffic-prediction-on-pems07STAEformer
MAE@1h: 19.14
traffic-prediction-on-pems08STAEformer
MAE@1h: 13.46
traffic-prediction-on-pemsd7STAEformer
12 steps MAE: 19.14
12 steps MAPE: 8.01
12 steps RMSE: 32.60

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
STAEformer:时空自适应嵌入使普通Transformer在交通预测中达到SOTA性能 | 论文 | HyperAI超神经