4 个月前

用于非规则采样时间序列的隐式常微分方程(Latent ODEs)

用于非规则采样时间序列的隐式常微分方程(Latent ODEs)

摘要

非均匀间隔的时间序列在许多应用中出现,并且使用标准的循环神经网络(RNNs)建模较为困难。我们对RNNs进行了推广,使其具有由常微分方程(ODEs)定义的连续时间隐藏动态,这种模型被称为ODE-RNNs。此外,我们使用ODE-RNNs替换了最近提出的Latent ODE模型中的识别网络。ODE-RNNs和Latent ODE模型都能自然地处理观测之间的任意时间间隔,并能显式地使用泊松过程建模观测时间的概率。实验结果表明,基于ODE的模型在不规则采样的数据上优于基于RNN的模型。

代码仓库

ashysheya/ODE-RNN
pytorch
GitHub 中提及
westny/neural-stability
pytorch
GitHub 中提及
patrick-kidger/torchcde
pytorch
GitHub 中提及
Ldhlwh/Latent-ODE
pytorch
GitHub 中提及
YuliaRubanova/latent_ode
官方
pytorch
GitHub 中提及
gkrudah/ODEnet
pytorch
GitHub 中提及
HerreraKrachTeichmann/NJODE
pytorch
GitHub 中提及

基准测试

基准方法指标
multivariate-time-series-forecasting-on-1ODE-RNN
MSE (10^-2, 50% missing): 26.463
multivariate-time-series-forecasting-on-1Latent ODE (ODE enc)
MSE (10^-2, 50% missing): 1.258
multivariate-time-series-forecasting-on-2Latent ODE (ODE enc)
MSE stdev: 0.029
mse (10^-3): 2.231
multivariate-time-series-forecasting-on-2Latent ODE + Poisson
MSE stdev: 0.05
mse (10^-3): 2.208
multivariate-time-series-imputation-on-1Latent ODE (ODE enc)
mse (10^-3): 2.118
multivariate-time-series-imputation-on-1Latent ODE + Poisson
mse (10^-3): 2.789
multivariate-time-series-imputation-on-mujocoODE-RNN
MSE (10^2, 50% missing): 0.665
multivariate-time-series-imputation-on-mujocoLatent ODE (ODE enc)
MSE (10^2, 50% missing): 0.285
time-series-classification-on-physionetODE-RNN
AUC: 83.3%
AUC Stdev: 0.9%
time-series-classification-on-physionetLatent ODE + Poisson
AUC: 82.6%
AUC Stdev: 0.7%
time-series-classification-on-physionetLatent ODE (ODE enc
AUC: 82.9%
AUC Stdev: 0.4%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于非规则采样时间序列的隐式常微分方程(Latent ODEs) | 论文 | HyperAI超神经