3 个月前

基于类别级记忆库的像素级对比学习的半监督语义分割

基于类别级记忆库的像素级对比学习的半监督语义分割

摘要

本文提出了一种新颖的半监督语义分割方法。该方法的核心在于我们设计的对比学习模块,该模块强制分割网络在全数据集范围内,对同类别样本产生相似的像素级特征表示。为实现这一目标,我们构建了一个持续更新的内存库,其中存储来自标注数据的高质量、相关性高的特征向量。在端到端的训练过程中,来自标注数据和未标注数据的特征均被优化,使其与内存库中同类别样本的特征保持一致。实验结果表明,该方法在多个知名公开基准上均超越了当前最先进的半监督语义分割与半监督域适应性能,尤其在标注数据稀缺这一更具挑战性的场景下,取得了更为显著的提升。项目代码已开源:https://github.com/Shathe/SemiSeg-Contrastive

代码仓库

基准测试

基准方法指标
semi-supervised-semantic-segmentation-on-1SemiSegContrast (DeepLab v2 with ResNet-101 backbone, MSCOCO pretrained)
Validation mIoU: 65.9%
semi-supervised-semantic-segmentation-on-2SemiSegContrast (DeepLab v2 with ResNet-101 backbone, MSCOCO pretrained)
Validation mIoU: 64.4%
semi-supervised-semantic-segmentation-on-3SemiSegContrast (DeepLab v2 with ResNet-101 backbone, MSCOCO pretrained)
Validation mIoU: 59.4%
semi-supervised-semantic-segmentation-on-3SemiSegContrast (DeepLab v3+ with ResNet-50 backbone, MSCOCO pretrained)
Validation mIoU: 64.9%
semi-supervised-semantic-segmentation-on-4SemiSegContrast
Validation mIoU: 71.6%
semi-supervised-semantic-segmentation-on-5SemiSegContrast (DeepLab v2 with ResNet-101 backbone, MSCOCO pretrained)
Validation mIoU: 70.0%
semi-supervised-semantic-segmentation-on-6SemiSegContrast (DeepLab v2 with ResNet-101 backbone, MSCOCO pretrained)
Validation mIoU: 67.9%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于类别级记忆库的像素级对比学习的半监督语义分割 | 论文 | HyperAI超神经