3 个月前

CorrMatch:通过相关性匹配进行标签传播的半监督语义分割

CorrMatch:通过相关性匹配进行标签传播的半监督语义分割

摘要

本文提出了一种简单而高效的半监督语义分割方法,称为CorrMatch。以往的方法大多采用复杂的训练策略来利用未标注数据,却忽视了相关性图(correlation maps)在建模位置对之间关系中的重要作用。我们发现,相关性图不仅能够轻松实现同一类别像素的聚类,还蕴含了良好的形状信息,而这一特性在先前的研究中被忽略了。受此启发,我们设计了两种新颖的标签传播策略,以提升未标注数据的利用效率。首先,我们提出通过建模像素间的成对相似性来进行像素级传播,从而扩散高置信度像素并挖掘出更多有效标注;其次,我们引入区域级传播机制,利用从相关性图中提取的准确类别无关掩码(class-agnostic masks)来优化伪标签。在多个主流语义分割基准测试中,CorrMatch均取得了优异性能。以ResNet-101为骨干网络的DeepLabV3+模型为例,在仅使用92张标注图像的情况下,我们在Pascal VOC 2012数据集上实现了超过76%的mIoU得分。相关代码已开源,地址为:https://github.com/BBBBchan/CorrMatch。

代码仓库

bbbbchan/corrmatch
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
semi-supervised-semantic-segmentation-on-1CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 79.4%
semi-supervised-semantic-segmentation-on-10CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 81.8
semi-supervised-semantic-segmentation-on-2CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 78.5%
semi-supervised-semantic-segmentation-on-21CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 81.3
semi-supervised-semantic-segmentation-on-22CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 77.3
semi-supervised-semantic-segmentation-on-27CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 76.4
semi-supervised-semantic-segmentation-on-28CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 78.5
semi-supervised-semantic-segmentation-on-29CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 79.4
semi-supervised-semantic-segmentation-on-30CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 80.6
semi-supervised-semantic-segmentation-on-4CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 81.9%
semi-supervised-semantic-segmentation-on-8CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 80.4%
semi-supervised-semantic-segmentation-on-9CorrMatch (Deeplabv3+ with ResNet-101)
Validation mIoU: 80.9

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
CorrMatch:通过相关性匹配进行标签传播的半监督语义分割 | 论文 | HyperAI超神经