4 个月前

时间模式注意力机制在多变量时间序列预测中的应用

时间模式注意力机制在多变量时间序列预测中的应用

摘要

预测多变量时间序列数据,例如电力消耗、太阳能发电量和复调钢琴曲的预测,具有许多重要的应用价值。然而,时间步之间的复杂非线性相互依赖关系以及不同序列之间的相互作用使得这一任务变得非常困难。为了获得准确的预测结果,建模时间序列数据中的长期依赖关系至关重要,这在一定程度上可以通过带有注意力机制的循环神经网络(RNN)来实现。典型的注意力机制会回顾每个先前的时间步的信息,并选择相关的信息以帮助生成输出,但其无法捕捉跨多个时间步的时序模式。在本文中,我们提出使用一组滤波器来提取时间不变的时序模式,类似于将时间序列数据转换到其“频域”。随后,我们提出了一种新的注意力机制来选择相关的时间序列,并利用其“频域”信息进行预测。我们将所提出的模型应用于多个实际任务中,在所有任务中均达到了最先进的性能水平,仅有一个例外。

基准测试

基准方法指标
univariate-time-series-forecasting-onTPA-LSTM (24 step)
RRSE: 0.1006
univariate-time-series-forecasting-onTPA-LSTM (3 step)
RRSE: 0.0823
univariate-time-series-forecasting-onTPA-LSTM (12 step)
RRSE: 0.0964
univariate-time-series-forecasting-onTPA-LSTM (6 step)
RRSE: 0.0916

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
时间模式注意力机制在多变量时间序列预测中的应用 | 论文 | HyperAI超神经