
摘要
近期研究发现,简单的线性模型在长期时间序列预测任务中,能够超越多种基于Transformer的模型。受此启发,我们提出了一种基于多层感知机(MLP)的编码器-解码器架构——时间序列密集编码器(Time-series Dense Encoder, TiDE),用于长期时间序列预测。该模型在保持线性模型简洁性与高效性的同时,具备处理协变量及非线性依赖关系的能力。理论上,我们在一定假设条件下证明,该模型最简线性版本在线性动态系统(Linear Dynamical Systems, LDS)下可达到接近最优的预测误差率。实验结果表明,TiDE在多个主流长期时间序列预测基准上能够达到或超越现有方法的性能,同时其推理速度比表现最佳的Transformer模型快5至10倍。
代码仓库
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| time-series-forecasting-on-etth1-192-1 | TiDE | MAE: 0.422 MSE: 0.412 |
| time-series-forecasting-on-etth1-336-1 | TiDE | MAE: 0.433 MSE: 0.435 |
| time-series-forecasting-on-etth1-720-1 | TiDE | MAE: 0.465 MSE: 0.454 |
| time-series-forecasting-on-etth1-96-1 | TiDE | MAE: 0.398 MSE: 0.375 |
| time-series-forecasting-on-etth2-192-1 | TiDE | MAE: 0.38 MSE: 0.332 |
| time-series-forecasting-on-etth2-336-1 | TiDE | MAE: 0.407 MSE: 0.36 |
| time-series-forecasting-on-etth2-720-1 | TiDE | MAE: 0.451 MSE: 0.419 |
| time-series-forecasting-on-etth2-96-1 | TiDE | MAE: 0.336 MSE: 0.27 |