3 个月前

突破局部窗口限制:基于自适应Token词典的高级超分辨率Transformer

突破局部窗口限制:基于自适应Token词典的高级超分辨率Transformer

摘要

单图像超分辨率(Single Image Super-Resolution, SISR)是计算机视觉领域的一个经典问题,旨在从低分辨率(Low-Resolution, LR)图像中重建出高分辨率(High-Resolution, HR)图像。尽管近年来深度神经网络(Deep Neural Networks, DNNs),特别是用于超分辨率任务的Transformer模型,取得了显著进展,但仍面临诸多挑战,尤其是在基于窗口的自注意力机制导致的感受野受限问题。为应对上述问题,本文提出了一种面向超分辨率Transformer的辅助自适应令牌字典(Adaptive Token Dictionary, ATD),并构建了ATD-SR方法。所引入的令牌字典能够从训练数据中学习先验信息,并通过自适应精炼步骤将所学先验适配至特定测试图像。该精炼策略不仅能够为所有输入令牌提供全局上下文信息,还能将图像令牌按语义相似性进行分组。基于此类分组,我们进一步设计了一种基于类别(category-based)的自注意力机制,旨在利用远距离但语义相似的令牌来增强输入特征表示。实验结果表明,所提方法在多个主流单图像超分辨率基准测试中均取得了最优性能。

代码仓库

labshuhanggu/adaptive-token-dictionary
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
image-super-resolution-on-set14ATD
PSNR: 29.24
image-super-resolution-on-set14-4x-upscalingATD
PSNR: 29.24
SSIM: 0.7974

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
突破局部窗口限制:基于自适应Token词典的高级超分辨率Transformer | 论文 | HyperAI超神经