
摘要
非均匀间隔的时间序列在许多应用中出现,并且使用标准的循环神经网络(RNNs)建模较为困难。我们对RNNs进行了推广,使其具有由常微分方程(ODEs)定义的连续时间隐藏动态,这种模型被称为ODE-RNNs。此外,我们使用ODE-RNNs替换了最近提出的Latent ODE模型中的识别网络。ODE-RNNs和Latent ODE模型都能自然地处理观测之间的任意时间间隔,并能显式地使用泊松过程建模观测时间的概率。实验结果表明,基于ODE的模型在不规则采样的数据上优于基于RNN的模型。
代码仓库
ashysheya/ODE-RNN
pytorch
GitHub 中提及
westny/neural-stability
pytorch
GitHub 中提及
jacobjinkelly/easy-neural-ode
jax
GitHub 中提及
HerreraKrachTeichmann/ControlledODERNN
pytorch
GitHub 中提及
patrick-kidger/torchcde
pytorch
GitHub 中提及
Ldhlwh/Latent-ODE
pytorch
GitHub 中提及
BorealisAI/continuous-time-flow-process
pytorch
GitHub 中提及
YuliaRubanova/latent_ode
官方
pytorch
GitHub 中提及
gkrudah/ODEnet
pytorch
GitHub 中提及
HerreraKrachTeichmann/NJODE
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| multivariate-time-series-forecasting-on-1 | ODE-RNN | MSE (10^-2, 50% missing): 26.463 |
| multivariate-time-series-forecasting-on-1 | Latent ODE (ODE enc) | MSE (10^-2, 50% missing): 1.258 |
| multivariate-time-series-forecasting-on-2 | Latent ODE (ODE enc) | MSE stdev: 0.029 mse (10^-3): 2.231 |
| multivariate-time-series-forecasting-on-2 | Latent ODE + Poisson | MSE stdev: 0.05 mse (10^-3): 2.208 |
| multivariate-time-series-imputation-on-1 | Latent ODE (ODE enc) | mse (10^-3): 2.118 |
| multivariate-time-series-imputation-on-1 | Latent ODE + Poisson | mse (10^-3): 2.789 |
| multivariate-time-series-imputation-on-mujoco | ODE-RNN | MSE (10^2, 50% missing): 0.665 |
| multivariate-time-series-imputation-on-mujoco | Latent ODE (ODE enc) | MSE (10^2, 50% missing): 0.285 |
| time-series-classification-on-physionet | ODE-RNN | AUC: 83.3% AUC Stdev: 0.9% |
| time-series-classification-on-physionet | Latent ODE + Poisson | AUC: 82.6% AUC Stdev: 0.7% |
| time-series-classification-on-physionet | Latent ODE (ODE enc | AUC: 82.9% AUC Stdev: 0.4% |