
摘要
基于深度卷积的单图像超分辨率(SISR)网络能够从大规模外部图像资源中学习局部重建特征,从而获得显著性能提升。然而,现有大多数方法忽略了自然图像中广泛存在的长程特征相似性。尽管一些近期工作通过引入非局部注意力模块成功利用了图像内在的特征相关性,但当前的深度模型尚未探索图像的另一项固有特性:跨尺度特征相关性。本文首次提出一种集成于循环神经网络中的跨尺度非局部(Cross-Scale Non-Local, CS-NL)注意力模块。通过在强大的循环融合单元中结合新的CS-NL先验,以及局部和同尺度非局部先验,我们能够在单张低分辨率(LR)图像内部更有效地挖掘跨尺度特征关联。通过充分整合所有可能的先验信息,SISR性能得到显著提升。大量实验表明,所提出的CS-NL模块在多个SISR基准测试上取得了新的最优性能,确立了当前最先进的技术水平。
代码仓库
SHI-Labs/Cross-Scale-Non-Local-Attention
官方
pytorch
GitHub 中提及
Lornatang/CSNLN-PyTorch
pytorch
GitHub 中提及
nSamsow/CSNLN-new
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| image-super-resolution-on-bsd100-2x-upscaling | CSNLN | PSNR: 32.4 SSIM: 0.9024 |
| image-super-resolution-on-bsd100-3x-upscaling | CSNLN | PSNR: 29.33 SSIM: 0.8105 |
| image-super-resolution-on-bsd100-4x-upscaling | CSNLN | PSNR: 27.8 SSIM: 0.7439 |
| image-super-resolution-on-manga109-2x | CSNLN | PSNR: 39.37 SSIM: 0.9785 |
| image-super-resolution-on-manga109-3x | CSNLN | PSNR: 34.45 SSIM: 0.9502 |
| image-super-resolution-on-manga109-4x | CSNLN | PSNR: 31.43 SSIM: 0.9201 |
| image-super-resolution-on-set14-2x-upscaling | CSNLN | PSNR: 34.12 SSIM: 0.9223 |
| image-super-resolution-on-set14-3x-upscaling | CSNLN | PSNR: 30.66 SSIM: 0.8482 |
| image-super-resolution-on-set14-4x-upscaling | CSNLN | PSNR: 28.95 SSIM: 0.7888 |
| image-super-resolution-on-set5-2x-upscaling | CSNLN | PSNR: 38.28 SSIM: 0.9616 |
| image-super-resolution-on-set5-3x-upscaling | CSNLN | PSNR: 34.74 SSIM: 0.9300 |
| image-super-resolution-on-urban100-2x | CSNLN | PSNR: 33.25 SSIM: 0.9386 |
| image-super-resolution-on-urban100-3x | CSNLN | PSNR: 29.13 SSIM: 0.8712 |
| image-super-resolution-on-urban100-4x | CSNLN | PSNR: 27.22 SSIM: 0.8168 |