
摘要
预测视频序列的未来帧是一项具有挑战性的生成建模任务。有前景的方法包括概率潜在变量模型,如变分自编码器(Variational Auto-Encoder)。尽管变分自编码器能够处理不确定性并建模多种可能的未来结果,但它们倾向于产生模糊的预测。在本研究中,我们认为这是欠拟合的一个迹象。为了解决这一问题,我们提出增加潜在分布的表达能力,并使用更高容量的似然模型。我们的方法依赖于潜在变量的层次结构,该结构定义了一组灵活的先验和后验分布,以更好地建模未来序列的概率。我们通过一系列消融实验验证了我们的提议,并将我们的方法与当前最先进的潜在变量模型进行了比较。在三个不同的数据集中,我们的方法在多个指标下表现优异。
代码仓库
facebookresearch/improved_vrnn
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| video-generation-on-bair-robot-pushing | VRNN 1L | Cond: 2 FVD score: 149.22 LPIPS: 0.058±0.03 Pred: 28 SSIM: 0.829±0.06 Train: 10 |
| video-generation-on-bair-robot-pushing | Hier-VRNN | Cond: 2 FVD score: 143.4 LPIPS: 0.055±0.03 Pred: 28 SSIM: 0.822±0.06 Train: 10 |
| video-prediction-on-cityscapes-128x128 | Hier-VRNN | Cond.: 2 FVD: 567.51 LPIPS: 0.264 ± .07 Pred: 28 SSIM: 0.628±0.1 Train: 10 |