
摘要
递归结构是视频超分辨率任务中常用的一种框架选择。目前最先进的方法BasicVSR采用了双向传播与特征对齐技术,能够有效地利用整个输入视频中的信息。在本研究中,我们重新设计了BasicVSR,提出了二阶网格传播(second-order grid propagation)和流导向的可变形对齐(flow-guided deformable alignment)。我们证明,通过增强递归框架的传播和对齐能力,可以更有效地利用错位视频帧之间的时空信息。新的组件在相似的计算约束下显著提升了性能。特别是,我们的模型BasicVSR++在参数数量相近的情况下,PSNR值比BasicVSR提高了0.82 dB。除了视频超分辨率之外,BasicVSR++还很好地适用于其他视频修复任务,如压缩视频增强。在NTIRE 2021比赛中,BasicVSR++在视频超分辨率和压缩视频增强挑战赛中获得了三个冠军和一个亚军。代码和模型将发布到MMEditing平台。
代码仓库
ckkelvinchan/basicvsr_plusplus
pytorch
GitHub 中提及
open-mmlab/mmediting
官方
pytorch
renyang-home/ntire22_venh_sr
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| analog-video-restoration-on-tape | BasicVSR++ | LPIPS: 0.098 PSNR: 31.66 SSIM: 0.916 VMAF: 78.91 |
| video-deraining-on-video-waterdrop-removal | BasicVSR++ | PSNR: 32.37 SSIM: 0.9792 |
| video-deraining-on-vrds | BasicVSR++ | PSNR: 29.75 SSIM: 0.9171 |
| video-enhancement-on-mfqe-v2 | BasicVSR++ | Incremental PSNR: 1.10 |
| video-super-resolution-on-msu-video-upscalers | BasicVsr++RD | LPIPS: 0.334 PSNR: 30.98 SSIM: 0.881 |
| video-super-resolution-on-udm10-4x-upscaling | BasicVSR++ | PSNR: 40.72 SSIM: 0.9722 |
| video-super-resolution-on-vid4-4x-upscaling | BasicVSR++ | PSNR: 27.79 SSIM: 0.8400 |
| video-super-resolution-on-vid4-4x-upscaling-1 | BasicVSR++ | PSNR: 29.04 SSIM: 0.8753 |