4 个月前

用于精确图像复原的山形单阶段网络

用于精确图像复原的山形单阶段网络

摘要

图像修复是指从受损的输入图像中恢复高质量图像的任务,例如去模糊和去雨。在图像修复过程中,通常需要维持空间细节和上下文信息之间的复杂平衡。尽管多阶段网络可以最优地平衡这些相互竞争的目标并实现显著性能提升,但这也会增加系统的复杂度。本文提出了一种基于简单U-Net架构的山形单阶段设计,通过移除或替换不必要的非线性激活函数,在较低系统复杂度下实现上述平衡。具体而言,我们提出了一种特征融合中间件(Feature Fusion Middleware, FFM)机制作为编码器-解码器架构层级间的信息交换组件。该机制将高层信息无缝集成到相邻的低层,逐层向下直至最低层。最终,所有信息在原始图像分辨率操作层进行融合,从而保留了空间细节并整合了上下文信息,确保高质量的图像修复效果。此外,我们还提出了一种多头注意力中间块(Multi-Head Attention Middle Block, MHAMB),作为编码器和解码器之间的桥梁,以捕捉更多全局信息并超越卷积神经网络(CNNs)的感受野限制。大量实验表明,我们的方法命名为M3SNet,在计算成本低于先前模型一半的情况下,在多个图像修复任务(如去雨和去模糊)中优于现有的最先进模型。

代码仓库

Tombs98/M3SNet
官方
pytorch

基准测试

基准方法指标
image-deblurring-on-goproM3SNet
PSNR: 33.74
SSIM: 0.967
image-deblurring-on-hideM3SNet
PSNR: 31.49
image-deblurring-on-hide-trained-on-goproM3SNet
PSNR: 31.49
SSIM: 0.951
single-image-deraining-on-rain100hM3SNet
PSNR: 30.64
SSIM: 0.892
single-image-deraining-on-rain100lM3SNet
PSNR: 40.04
SSIM: 0.985
single-image-deraining-on-test100M3SNet
PSNR: 31.29
SSIM: 0.903
single-image-deraining-on-test1200M3SNet
PSNR: 33.52
SSIM: 0.925

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于精确图像复原的山形单阶段网络 | 论文 | HyperAI超神经