3 个月前

多模态多头卷积注意力机制及其在不同卷积核尺寸下的医学图像超分辨率应用

多模态多头卷积注意力机制及其在不同卷积核尺寸下的医学图像超分辨率应用

摘要

超分辨率医学影像有助于医生提供更精准的诊断。在许多临床场景中,计算机断层扫描(CT)或磁共振成像(MRI)在一次检查过程中会获取多个扫描模态(扫描序列),这些模态可采用多模态方式联合使用,进一步提升超分辨率重建的质量。为此,我们提出一种新型的多模态多头卷积注意力模块(Multimodal Multi-Head Convolutional Attention, MMHCA),用于实现CT与MRI影像的超分辨率重建。该注意力模块通过卷积操作对多个拼接后的输入张量进行联合空间-通道注意力建模:卷积核(感受野)尺寸控制空间注意力的压缩率,而卷积滤波器数量则控制通道注意力的压缩率。我们引入多个注意力头,每个头具有不同的感受野尺寸,以对应不同的空间注意力压缩率。我们将MMHCA模块集成至两种深度神经网络架构中,用于超分辨率任务,并在三个数据集上进行了实验验证。实验结果表明,所提出的注意力模块在性能上优于当前超分辨率领域最先进的注意力机制。此外,我们还进行了消融实验,系统评估了模块内部各组件的影响,包括输入模态数量和注意力头数量等因素。相关代码已开源,可访问 https://github.com/lilygeorgescu/MHCA 获取。

代码仓库

lilygeorgescu/mhca
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
image-super-resolution-on-ixiEDSR+MMHCA
PSNR 2x T2w: 40.43
PSNR 4x T2w: 32.70
SSIM 4x T2w: 0.9469
SSIM for 2x T2w: 0.9877

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
多模态多头卷积注意力机制及其在不同卷积核尺寸下的医学图像超分辨率应用 | 论文 | HyperAI超神经