
摘要
相关时间序列(CTS)预测在许多实际应用中发挥着重要作用,例如交通管理和服务器负载控制。为了提高CTS预测的准确性,已经提出了许多深度学习模型。然而,尽管这些模型变得越来越复杂且计算成本高昂,但它们在提升准确性方面仍面临挑战。本研究另辟蹊径,旨在开发更加高效、轻量级的模型,在保持预测准确性的同时,能够在资源受限的设备上部署。为此,我们对流行的CTS预测模型进行了特征分析,并得出了两个观察结果,指明了轻量级CTS预测的方向。基于此,我们提出了LightCTS框架,该框架采用了时间与空间算子的简单堆叠而非交替堆叠,后者计算成本要高得多。此外,LightCTS包含轻量级的时间和空间算子模块,称为L-TCN和GL-Former,这些模块在不牺牲特征提取能力的前提下提高了计算效率。LightCTS还引入了一种最终压缩方案,以减少冗余的时间特征并加速后续计算。单步和多步预测基准数据集上的实验表明,LightCTS能够在显著降低计算和存储开销的情况下实现接近最先进水平的准确性。
代码仓库
ai4cts/lightcts
官方
pytorch
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| correlated-time-series-forecasting-on | LightCTS | FLOPs(M): 239 Parameters(K): 27 |
| correlated-time-series-forecasting-on-metr-la | LightCTS | FLOPs(M): 71 MAE @ 12 step: 3.42 MAPE @ 12 step: 9.46% Parameters(K): 133 RMSE @ 12 step: 0.0721 |
| correlated-time-series-forecasting-on-pems | LightCTS | FLOPs(M): 208 MAE @ 12 step: 1.89 MAPE @ 12 step: 4.39 Parameters(K): 236 RMSE @ 12 step: 4.32 |
| correlated-time-series-forecasting-on-solar | LightCTS | FLOPs(M): 169 Parameters(K): 38 |
| traffic-prediction-on-pems04 | LightCTS | FLOPs(M): 147 MAE: 18.79 MAPE: 12.8% Parameters(K): 185 RMSE: 0.3014 |
| traffic-prediction-on-pems08 | LightCTS | FLOPs(M): 70 MAE: 14.63 MAPE: 9.43% Parameters(K): 177 RMSE: 0.2349 |