3 个月前

COMISR:压缩感知引导的视频超分辨率

COMISR:压缩感知引导的视频超分辨率

摘要

大多数视频超分辨率方法致力于从低分辨率视频中恢复高分辨率帧,但通常忽略了视频压缩的影响。然而,网络或移动设备上的绝大多数视频均经过压缩,尤其在带宽受限的情况下,压缩程度可能非常严重。为此,本文提出了一种新型的压缩感知视频超分辨率模型,能够在恢复高分辨率内容的同时,有效避免由压缩引入的伪影。所提出的模型包含三个核心模块:双向循环光流变形(bi-directional recurrent warping)、细节保持型光流估计(detail-preserving flow estimation)以及拉普拉斯增强(Laplacian enhancement)。这三个模块协同设计,专门用于应对视频压缩特性,例如输入中帧内编码帧(intra-frames)的位置分布以及输出帧的平滑性要求。为全面评估模型性能,我们在标准数据集上进行了大量实验,覆盖了广泛的压缩率,涵盖多种实际视频应用场景。实验结果表明,该方法不仅能够在广泛使用的基准数据集的无压缩帧上有效恢复高分辨率内容,而且在压缩视频的超分辨率重建任务中,基于多项定量指标均达到了当前最优水平。此外,我们通过模拟YouTube流媒体传输场景对所提方法进行了评估,进一步验证了其有效性与鲁棒性。相关源代码与训练好的模型已开源,地址为:https://github.com/google-research/google-research/tree/master/comisr。

基准测试

基准方法指标
video-super-resolution-on-msu-super-1COMISR + aomenc
BSQ-rate over ERQA: 11.177
BSQ-rate over LPIPS: 4.801
BSQ-rate over MS-SSIM: 11.303
BSQ-rate over PSNR: 15.144
BSQ-rate over Subjective Score: 1.943
BSQ-rate over VMAF: 10.67
video-super-resolution-on-msu-super-1COMISR + vvenc
BSQ-rate over ERQA: 13.246
BSQ-rate over LPIPS: 11.026
BSQ-rate over MS-SSIM: 6.024
BSQ-rate over PSNR: 11.497
BSQ-rate over Subjective Score: 0.701
BSQ-rate over VMAF: 8.105
video-super-resolution-on-msu-super-1COMISR + uavs3e
BSQ-rate over ERQA: 3.427
BSQ-rate over LPIPS: 3.851
BSQ-rate over MS-SSIM: 7.711
BSQ-rate over PSNR: 5.761
BSQ-rate over Subjective Score: 1.229
BSQ-rate over VMAF: 9.47
video-super-resolution-on-msu-super-1COMISR + x264
BSQ-rate over ERQA: 0.969
BSQ-rate over LPIPS: 1.118
BSQ-rate over MS-SSIM: 0.672
BSQ-rate over PSNR: 6.081
BSQ-rate over Subjective Score: 0.367
BSQ-rate over VMAF: 1.302
video-super-resolution-on-msu-super-1COMISR + x265
BSQ-rate over ERQA: 8.139
BSQ-rate over LPIPS: 12.998
BSQ-rate over MS-SSIM: 4.793
BSQ-rate over PSNR: 10.678
BSQ-rate over Subjective Score: 0.741
BSQ-rate over VMAF: 6.363
video-super-resolution-on-msu-video-upscalersCOMISR
LPIPS: 0.291
PSNR: 30.97
SSIM: 0.871
video-super-resolution-on-msu-vsr-benchmarkCOMISR
1 - LPIPS: 0.879
ERQAv1.0: 0.654
FPS: 1.613
PSNR: 26.708
QRCRv1.0: 0.619
SSIM: 0.84
Subjective score: 5.637

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
COMISR:压缩感知引导的视频超分辨率 | 论文 | HyperAI超神经