4 个月前

BasicVSR++:通过增强传播和对齐改进视频超分辨率

BasicVSR++:通过增强传播和对齐改进视频超分辨率

摘要

递归结构是视频超分辨率任务中常用的一种框架选择。目前最先进的方法BasicVSR采用了双向传播与特征对齐技术,能够有效地利用整个输入视频中的信息。在本研究中,我们重新设计了BasicVSR,提出了二阶网格传播(second-order grid propagation)和流导向的可变形对齐(flow-guided deformable alignment)。我们证明,通过增强递归框架的传播和对齐能力,可以更有效地利用错位视频帧之间的时空信息。新的组件在相似的计算约束下显著提升了性能。特别是,我们的模型BasicVSR++在参数数量相近的情况下,PSNR值比BasicVSR提高了0.82 dB。除了视频超分辨率之外,BasicVSR++还很好地适用于其他视频修复任务,如压缩视频增强。在NTIRE 2021比赛中,BasicVSR++在视频超分辨率和压缩视频增强挑战赛中获得了三个冠军和一个亚军。代码和模型将发布到MMEditing平台。

代码仓库

ckkelvinchan/basicvsr_plusplus
pytorch
GitHub 中提及

基准测试

基准方法指标
analog-video-restoration-on-tapeBasicVSR++
LPIPS: 0.098
PSNR: 31.66
SSIM: 0.916
VMAF: 78.91
video-deraining-on-video-waterdrop-removalBasicVSR++
PSNR: 32.37
SSIM: 0.9792
video-deraining-on-vrdsBasicVSR++
PSNR: 29.75
SSIM: 0.9171
video-enhancement-on-mfqe-v2BasicVSR++
Incremental PSNR: 1.10
video-super-resolution-on-msu-video-upscalersBasicVsr++RD
LPIPS: 0.334
PSNR: 30.98
SSIM: 0.881
video-super-resolution-on-udm10-4x-upscalingBasicVSR++
PSNR: 40.72
SSIM: 0.9722
video-super-resolution-on-vid4-4x-upscalingBasicVSR++
PSNR: 27.79
SSIM: 0.8400
video-super-resolution-on-vid4-4x-upscaling-1BasicVSR++
PSNR: 29.04
SSIM: 0.8753

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
BasicVSR++:通过增强传播和对齐改进视频超分辨率 | 论文 | HyperAI超神经