
摘要
有效提取视频帧间运动与外观信息对于视频帧插值(Video Frame Interpolation, VFI)至关重要。以往方法通常以混合方式同时提取两类信息,或为每类信息设计独立模块,导致表征模糊且计算效率低下。本文提出一种新型模块,通过统一操作显式分离并提取运动与外观信息。具体而言,我们重新思考帧间注意力机制中的信息传递过程,并复用其注意力图,分别用于外观特征增强与运动信息提取。此外,为实现高效VFI,所提模块可无缝集成至混合CNN与Transformer架构中。该混合架构在降低帧间注意力计算复杂度的同时,有效保留了底层细节结构信息。实验结果表明,无论在固定时间步长还是任意时间步长插值任务下,本方法在多个数据集上均达到当前最优性能。同时,相较于性能相近的模型,本方法具有更轻量的计算开销。源代码与预训练模型已开源,地址为:https://github.com/MCG-NJU/EMA-VFI。
代码仓库
mcg-nju/ema-vfi
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| video-frame-interpolation-on-msu-video-frame | EMA-VFI | LPIPS: 0.022 MS-SSIM: 0.965 PSNR: 29.89 SSIM: 0.953 VMAF: 71.71 |
| video-frame-interpolation-on-snu-film-easy | EMA-VFI | PSNR: 39.98 SSIM: 0.9910 |
| video-frame-interpolation-on-snu-film-extreme | EMA-VFI | PSNR: 25.69 SSIM: 0.8661 |
| video-frame-interpolation-on-snu-film-hard | EMA-VFI | PSNR: 30.94 SSIM: 0.9392 |
| video-frame-interpolation-on-snu-film-medium | EMA-VFI | PSNR: 36.09 SSIM: 0.9801 |
| video-frame-interpolation-on-ucf101-1 | EMA-VFI | PSNR: 35.48 SSIM: 0.9701 |
| video-frame-interpolation-on-vimeo90k | EMA-VFI | PSNR: 36.64 SSIM: 0.9819 |
| video-frame-interpolation-on-x4k1000fps | EMA-VFI | PSNR: 31.46 |
| video-frame-interpolation-on-x4k1000fps-2k | EMA-VFI | PSNR: 32.85 |
| video-frame-interpolation-on-xiph-2k | EMA-VFI | PSNR: 36.90 SSIM: 0.945 |
| video-frame-interpolation-on-xiph-4k-1 | EMA-VFI | PSNR: 34.67 SSIM: 0.907 |