3 个月前

MUSIQ:多尺度图像质量Transformer

MUSIQ:多尺度图像质量Transformer

摘要

图像质量评估(Image Quality Assessment, IQA)是理解与提升视觉体验的重要研究课题。当前最先进的IQA方法均基于卷积神经网络(Convolutional Neural Networks, CNNs)。然而,CNN模型在批量训练过程中受限于固定的输入形状约束,其性能往往受到影响。为适应这一限制,输入图像通常需被缩放并裁剪至固定尺寸,这一过程会导致图像质量的下降。为解决该问题,本文提出一种多尺度图像质量Transformer(Multi-scale Image Quality Transformer, MUSIQ),能够直接处理具有不同尺寸和宽高比的原始分辨率图像。通过引入多尺度图像表示,所提方法可在不同粒度上有效捕捉图像质量特征。此外,我们设计了一种基于哈希的二维空间嵌入(hash-based 2D spatial embedding)与尺度嵌入(scale embedding),以支持多尺度表示中的位置编码。实验结果表明,该方法在多个大规模IQA数据集(包括PaQ-2-PiQ、SPAQ和KonIQ-10k)上均达到了当前最优的性能表现。

代码仓库

基准测试

基准方法指标
image-quality-assessment-on-msu-nr-vqaMUSIQ
KLCC: 0.7433
PLCC: 0.9068
SRCC: 0.9004
video-quality-assessment-on-msu-sr-qa-datasetMUSIQ trained on KONIQ
KLCC: 0.51897
PLCC: 0.59151
SROCC: 0.64589
Type: NR
video-quality-assessment-on-msu-sr-qa-datasetMUSIQ trained on AVA
KLCC: 0.44669
PLCC: 0.52404
SROCC: 0.56152
Type: NR
video-quality-assessment-on-msu-sr-qa-datasetMUSIQ trained on SPAQ
KLCC: 0.52673
PLCC: 0.60216
SROCC: 0.64927
Type: NR
video-quality-assessment-on-msu-sr-qa-datasetMUSIQ trained on PaQ-2-PiQ
KLCC: 0.55312
PLCC: 0.66531
SROCC: 0.67746
Type: NR
video-quality-assessment-on-msu-video-qualityMUSIQ
KLCC: 0.7433
PLCC: 0.9068
SRCC: 0.9004
Type: NR

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
MUSIQ:多尺度图像质量Transformer | 论文 | HyperAI超神经