
摘要
利用自然信号自相似性的非局部方法在图像分析和恢复等领域已得到广泛研究。然而,现有的方法依赖于在固定特征空间中的k近邻(KNN)匹配。针对这一特征空间优化以提高应用性能的主要障碍在于KNN选择规则的不可微性。为了解决这个问题,我们提出了一种连续确定性的KNN选择松弛方法,该方法在成对距离上保持可微性,同时当温度参数趋近于零时,仍能保留原始的KNN选择。为了利用我们的松弛方法,我们提出了神经最近邻块(N3块),这是一种新颖的非局部处理层,它利用了自相似性的原理,并可以作为现代神经网络架构中的构建模块。我们在对应分类的集合推理任务以及图像恢复任务中展示了其有效性,包括图像去噪和单幅图像超分辨率,在这些任务中,我们的方法优于强大的卷积神经网络(CNN)基线模型和近期依赖于手工选定特征空间中KNN选择的非局部模型。
代码仓库
visinf/n3net
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| grayscale-image-denoising-on-bsd68-sigma25 | N3Net | PSNR: 29.3 |
| grayscale-image-denoising-on-bsd68-sigma50 | N3Net | PSNR: 26.39 |
| grayscale-image-denoising-on-bsd68-sigma70 | N3Net | PSNR: 25.14 |
| grayscale-image-denoising-on-set12-sigma25 | N3Net | PSNR: 30.55 |
| grayscale-image-denoising-on-set12-sigma50 | N3Net | PSNR: 27.43 |
| grayscale-image-denoising-on-set12-sigma70 | N3Net | PSNR: 25.9 |
| grayscale-image-denoising-on-urban100-sigma25 | N3Net | PSNR: 30.19 SSIM: 0.892 |
| grayscale-image-denoising-on-urban100-sigma50 | N3Net | PSNR: 26.82 |
| grayscale-image-denoising-on-urban100-sigma70 | N3Net | PSNR: 25.15 |
| image-super-resolution-on-set5-2x-upscaling | N3Net | PSNR: 37.57 |
| image-super-resolution-on-set5-3x-upscaling | N3Net | PSNR: 33.84 |