4 个月前

改进的条件VRNN用于视频预测

改进的条件VRNN用于视频预测

摘要

预测视频序列的未来帧是一项具有挑战性的生成建模任务。有前景的方法包括概率潜在变量模型,如变分自编码器(Variational Auto-Encoder)。尽管变分自编码器能够处理不确定性并建模多种可能的未来结果,但它们倾向于产生模糊的预测。在本研究中,我们认为这是欠拟合的一个迹象。为了解决这一问题,我们提出增加潜在分布的表达能力,并使用更高容量的似然模型。我们的方法依赖于潜在变量的层次结构,该结构定义了一组灵活的先验和后验分布,以更好地建模未来序列的概率。我们通过一系列消融实验验证了我们的提议,并将我们的方法与当前最先进的潜在变量模型进行了比较。在三个不同的数据集中,我们的方法在多个指标下表现优异。

代码仓库

facebookresearch/improved_vrnn
pytorch
GitHub 中提及

基准测试

基准方法指标
video-generation-on-bair-robot-pushingVRNN 1L
Cond: 2
FVD score: 149.22
LPIPS: 0.058±0.03
Pred: 28
SSIM: 0.829±0.06
Train: 10
video-generation-on-bair-robot-pushingHier-VRNN
Cond: 2
FVD score: 143.4
LPIPS: 0.055±0.03
Pred: 28
SSIM: 0.822±0.06
Train: 10
video-prediction-on-cityscapes-128x128Hier-VRNN
Cond.: 2
FVD: 567.51
LPIPS: 0.264 ± .07
Pred: 28
SSIM: 0.628±0.1
Train: 10

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
改进的条件VRNN用于视频预测 | 论文 | HyperAI超神经