3 个月前

基于协方差矩阵双重可变形聚合的少样本分割

基于协方差矩阵双重可变形聚合的少样本分割

摘要

在少量标注样本条件下训练语义分割模型在诸多实际应用场景中具有巨大潜力。针对少样本分割任务,其核心挑战在于如何在训练数据有限的情况下,准确度量支持集(support)样本与查询集(query)样本之间的语义对应关系。为解决这一问题,本文提出一种基于可学习协方差矩阵聚合的可变形4D Transformer方法,以高效预测分割结果。具体而言,本文首先设计了一种新颖的困难样本挖掘机制,用于学习高斯过程中的协方差核函数。所学习到的协方差核函数在语义对应度量方面,相较于现有基于余弦相似度的方法具有显著优势。在此基础上,进一步构建了一种高效的双重可变形4D Transformer模块,能够自适应地将特征相似性图聚合为最终的分割结果。通过结合上述两种设计,所提出的方法不仅在多个公开基准数据集上达到了新的最先进性能,而且收敛速度显著快于现有方法。在三个公开数据集上的实验结果充分验证了该方法的有效性。

代码仓库

基准测试

基准方法指标
few-shot-semantic-segmentation-on-coco-20i-1DACM (ResNet-50)
FB-IoU: 68.9
Mean IoU: 40.6
few-shot-semantic-segmentation-on-coco-20i-1DACM (VAT, ResNet-50)
FB-IoU: 69.4
Mean IoU: 43
few-shot-semantic-segmentation-on-coco-20i-5DACM (ResNet-50)
FB-IoU: 71.6
Mean IoU: 48.1
few-shot-semantic-segmentation-on-coco-20i-5DACM (VAT, ResNet-50)
FB-IoU: 72.9
Mean IoU: 49.2
few-shot-semantic-segmentation-on-fss-1000-1DACM (ResNet-101)
Mean IoU: 90.8
few-shot-semantic-segmentation-on-fss-1000-1DACM (ResNet-50)
Mean IoU: 90.7
few-shot-semantic-segmentation-on-fss-1000-5DACM (ResNet-50)
Mean IoU: 91.6
few-shot-semantic-segmentation-on-fss-1000-5DACM (ResNet-101)
Mean IoU: 91.7
few-shot-semantic-segmentation-on-pascal-5i-1DACM (ResNet-101)
FB-IoU: 78.9
Mean IoU: 67.5
few-shot-semantic-segmentation-on-pascal-5i-1DACM (ResNet-50)
FB-IoU: 77.8
Mean IoU: 65.7
few-shot-semantic-segmentation-on-pascal-5i-1DACM (VAT, ResNet-50)
FB-IoU: 78.6
Mean IoU: 66.8
few-shot-semantic-segmentation-on-pascal-5i-1DACM (VGG-16)
FB-IoU: 75.5
Mean IoU: 61.8
few-shot-semantic-segmentation-on-pascal-5i-1DACM (VAT, ResNet-101)
FB-IoU: 79.4
Mean IoU: 69.1
few-shot-semantic-segmentation-on-pascal-5i-5DACM (VAT, ResNet-50)
FB-IoU: 81.7
Mean IoU: 71.7
few-shot-semantic-segmentation-on-pascal-5i-5DACM (ResNet-50)
FB-IoU: 81.3
Mean IoU: 70.9
few-shot-semantic-segmentation-on-pascal-5i-5DACM (VGG-16)
FB-IoU: 77.8
Mean IoU: 65.7
few-shot-semantic-segmentation-on-pascal-5i-5DACM (ResNet-101)
FB-IoU: 81.5
Mean IoU: 71.4
few-shot-semantic-segmentation-on-pascal-5i-5DACM (VAT, ResNet-101)
FB-IoU: 83.1
Mean IoU: 73.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于协方差矩阵双重可变形聚合的少样本分割 | 论文 | HyperAI超神经