3 个月前

基于自适应均衡学习的半监督语义分割

基于自适应均衡学习的半监督语义分割

摘要

由于数据量有限且分布不均,半监督语义分割在某些类别上的表现往往较差,例如在具有长尾标签分布的Cityscapes数据集中的尾部类别。现有方法大多忽视了这一问题,对各类别一视同仁。一些主流方法,如一致性正则化或伪标签策略,甚至可能损害表现较差类别的学习,因为这些类别的预测结果或伪标签本身可能过于不准确,难以有效指导未标注数据的学习过程。本文针对该问题提出了一种新颖的半监督语义分割框架——自适应均衡学习(Adaptive Equalization Learning, AEL)。AEL通过引入一个置信度银行(confidence bank),在训练过程中动态追踪各类别的表现,并据此自适应地平衡表现良好与表现不佳类别的训练过程。该置信度银行被用作引导信号,促使训练向表现较差的类别倾斜,具体体现在三种策略中:(1)自适应的Copy-Paste与CutMix数据增强方法,使表现较差的类别有更高的机会被复制或裁剪;(2)自适应的数据采样策略,提升对表现较差类别像素的采样概率;(3)一种简单而有效的重加权方法,以缓解伪标签引入的训练噪声。实验结果表明,在多种数据划分策略下,AEL在Cityscapes和Pascal VOC两个基准数据集上均显著超越当前最先进的方法。代码已开源,地址为:https://github.com/hzhupku/SemiSeg-AEL。

代码仓库

hzhupku/semiseg-ael
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
semi-supervised-semantic-segmentation-on-1AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 79.01%
semi-supervised-semantic-segmentation-on-15AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 80.29%
semi-supervised-semantic-segmentation-on-2AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 77.9%
semi-supervised-semantic-segmentation-on-21AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 77.2
semi-supervised-semantic-segmentation-on-22AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 75.83%
semi-supervised-semantic-segmentation-on-35AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 74.28
semi-supervised-semantic-segmentation-on-36AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 76.97
semi-supervised-semantic-segmentation-on-4AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 77.57%
semi-supervised-semantic-segmentation-on-41AEL
Validation mIoU: 28.4
semi-supervised-semantic-segmentation-on-42AEL
Validation mIoU: 33.2
semi-supervised-semantic-segmentation-on-8AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 80.28%
semi-supervised-semantic-segmentation-on-9AEL (DeepLab v3+ with ResNet-101 pretraind on ImageNet-1K)
Validation mIoU: 78.06

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于自适应均衡学习的半监督语义分割 | 论文 | HyperAI超神经