4 个月前

基于提示的面向成分的全方位图像修复

基于提示的面向成分的全方位图像修复

摘要

图像恢复旨在从退化的观测中恢复高质量图像。由于大多数现有方法主要专注于单一退化去除,因此在处理其他类型的退化时可能无法获得最佳结果,这不符合实际应用场景的需求。本文提出了一种新颖的数据成分导向方法,利用基于提示的学习技术,使单个模型能够高效地应对多种图像退化任务。具体而言,我们使用编码器捕捉特征,并引入包含特定退化信息的提示来指导解码器自适应地恢复受各种退化影响的图像。为了建模局部不变特性和非局部信息以实现高质量图像恢复,我们将卷积神经网络(CNN)操作与变压器(Transformer)相结合。同时,我们在变压器块中进行了几项关键设计(多头重排注意力机制与提示和简单门控前馈网络),以减少计算需求并有选择地确定应保留哪些信息,从而促进潜在清晰图像的有效恢复。此外,我们还引入了特征融合机制,进一步探索多尺度信息以改善聚合特征。所提出的紧密互联的层次架构命名为CAPTNet,在广泛的实验中表明,我们的方法在性能上可与最先进水平相媲美。

代码仓库

Tombs98/CAPTNet
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
deblurring-on-hide-trained-on-goproCAPTNet
PSNR (sRGB): 31.86
SSIM (sRGB): 0.949
image-deblurring-on-goproCAPTNet
PSNR: 33.74
SSIM: 0.967
single-image-deraining-on-rain100lCAPTNet
PSNR: 39.22
SSIM: 0.981
single-image-deraining-on-test1200CAPTNet
PSNR: 34.77
SSIM: 0.937

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于提示的面向成分的全方位图像修复 | 论文 | HyperAI超神经