4 个月前

用于视频超分辨率的循环反投影网络

用于视频超分辨率的循环反投影网络

摘要

我们提出了一种用于视频超分辨率问题的新架构。通过一个循环编码器-解码器模块,该架构整合了连续视频帧中的空间和时间上下文信息,将多帧信息与目标帧的传统单帧超分辨率路径相融合。与大多数先前工作中的帧堆叠或变形池化方法不同,我们的模型——循环反投影网络(Recurrent Back-Projection Network, RBPN)将每个上下文帧视为独立的信息源。这些信息源在一个受多图像超分辨率中反投影思想启发的迭代精化框架中进行结合。此外,我们通过显式表示相对于目标帧的估计帧间运动来辅助这一过程,而不是显式对齐各帧。我们还提出了一个新的视频超分辨率基准测试,允许在更大规模上进行评估,并考虑不同运动模式下的视频。实验结果表明,我们的RBPN在多个数据集上优于现有方法。

基准测试

基准方法指标
video-super-resolution-on-msu-super-1RBPN + aomenc
BSQ-rate over ERQA: 13.572
BSQ-rate over LPIPS: 5.821
BSQ-rate over MS-SSIM: 3.089
BSQ-rate over PSNR: 10.89
BSQ-rate over Subjective Score: 2.7
BSQ-rate over VMAF: 1.996
video-super-resolution-on-msu-super-1RBPN + x264
BSQ-rate over ERQA: 1.599
BSQ-rate over LPIPS: 1.335
BSQ-rate over MS-SSIM: 0.729
BSQ-rate over PSNR: 1.127
BSQ-rate over Subjective Score: 1.498
BSQ-rate over VMAF: 0.733
video-super-resolution-on-msu-super-1RBPN + vvenc
BSQ-rate over ERQA: 18.314
BSQ-rate over LPIPS: 11.777
BSQ-rate over MS-SSIM: 0.884
BSQ-rate over PSNR: 5.783
BSQ-rate over Subjective Score: 2.719
BSQ-rate over VMAF: 0.689
video-super-resolution-on-msu-super-1RBPN + uavs3e
BSQ-rate over ERQA: 7.133
BSQ-rate over LPIPS: 4.859
BSQ-rate over MS-SSIM: 2.263
BSQ-rate over PSNR: 6.301
BSQ-rate over Subjective Score: 2.944
BSQ-rate over VMAF: 0.702
video-super-resolution-on-msu-super-1RBPN + x265
BSQ-rate over ERQA: 13.185
BSQ-rate over LPIPS: 13.237
BSQ-rate over MS-SSIM: 1.438
BSQ-rate over PSNR: 1.89
BSQ-rate over Subjective Score: 2.282
BSQ-rate over VMAF: 1.324
video-super-resolution-on-msu-vsr-benchmarkRBPN
1 - LPIPS: 0.74
ERQAv1.0: 0.746
FPS: 0.043
PSNR: 31.407
QRCRv1.0: 0.629
SSIM: 0.899
Subjective score: 7.068
video-super-resolution-on-vid4-4x-upscalingRBPN/6-PF
PSNR: 27.12
SSIM: 0.8180
video-super-resolution-on-vid4-4x-upscaling-1RBPN
PSNR: 27.17
SSIM: 0.8205

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于视频超分辨率的循环反投影网络 | 论文 | HyperAI超神经