3 个月前

多尺度渐进融合网络用于单张图像去雨

多尺度渐进融合网络用于单张图像去雨

摘要

由于雨丝在空间中距离相机远近不同,其在图像中呈现出不同程度的模糊与分辨率差异。在雨天图像及其多尺度(或多分辨率)版本中,可观察到相似的雨丝模式,这为利用这些互补信息进行雨丝表征提供了可能。本文从输入图像尺度与分层深度特征的视角出发,在统一框架下探索了雨丝的多尺度协同表征方法,提出了一种名为多尺度渐进融合网络(Multi-scale Progressive Fusion Network, MSPFN)的单幅图像去雨方法。针对不同位置上具有相似特征的雨丝,我们采用循环计算机制以捕捉全局纹理信息,从而在空间维度上挖掘互补与冗余信息,有效刻画目标雨丝特征。此外,我们构建了多尺度金字塔结构,并引入注意力机制,引导来自不同尺度的相关信息进行精细融合。该多尺度渐进融合策略不仅增强了特征的协同表示能力,也显著提升了端到端训练的效率与性能。所提方法在多个基准数据集上进行了广泛评估,取得了当前最优的去雨效果。进一步地,我们在联合去雨、检测与分割任务上开展了实验,启发了“视觉任务驱动的图像去雨”这一新的研究方向。相关源代码已公开,地址为:\url{https://github.com/kuihua/MSPFN}。

代码仓库

kuijiang94/mspfn
tf
GitHub 中提及
kuijiang0802/mspfn
tf
GitHub 中提及
kuihua/MSPFN
官方
tf
GitHub 中提及

基准测试

基准方法指标
single-image-deraining-on-rain100hMSPFN
PSNR: 28.66
SSIM: 0.86
single-image-deraining-on-rain100lMSPFN
PSNR: 32.40
SSIM: 0.933
single-image-deraining-on-test100MSPFN
PSNR: 27.50
SSIM: 0.876
single-image-deraining-on-test1200MSPFN
PSNR: 32.39
SSIM: 0.916
single-image-deraining-on-test2800MSPFN
PSNR: 32.82
SSIM: 0.930

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
多尺度渐进融合网络用于单张图像去雨 | 论文 | HyperAI超神经