4 个月前

UniMatch V2:半监督语义分割的极限推进

UniMatch V2:半监督语义分割的极限推进

摘要

半监督语义分割(SSS)旨在从廉价的未标记图像中学习丰富的视觉知识,以增强语义分割能力。在最近的研究中,UniMatch通过加强弱到强一致性正则化的方法显著改进了其前代模型。后续的工作通常遵循类似的流程并提出了各种精细的设计。尽管取得了进展,但奇怪的是,在当前众多强大视觉模型蓬勃发展的时代,几乎所有的SSS研究仍然坚持使用1)过时的ResNet编码器进行小规模ImageNet-1K预训练,以及2)在简单的Pascal和Cityscapes数据集上进行评估。在这项工作中,我们认为有必要将SSS的基线从基于ResNet的编码器切换到更强大的基于ViT的编码器(例如DINOv2),这些编码器是在大规模数据上预训练的。即使参数量减少了一半,对编码器进行简单的更新也能带来比精心设计方法更为显著的改进。在此竞争性基线的基础上,我们提出了升级和简化的UniMatch V2,继承了V1的核心弱到强一致性思想,但需要更低的训练成本并提供持续更好的结果。此外,鉴于在Pascal和Cityscapes数据集上的性能逐渐饱和,我们呼吁应关注更具挑战性的基准测试,如具有复杂分类体系的ADE20K和COCO数据集。所有报告值的代码、模型和日志均可在https://github.com/LiheYoung/UniMatch-V2 获取。

代码仓库

LiheYoung/UniMatch-V2
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
semi-supervised-change-detection-on-levir-cdUniMatch V2
IoU: 83.3
OA: 99.08
semi-supervised-change-detection-on-levir-cd-1UniMatch V2
IoU: 83.8
OA: 99.11
semi-supervised-change-detection-on-levir-cd-2UniMatch V2
IoU: 84.3
OA: 99.14
semi-supervised-change-detection-on-levir-cd-3UniMatch V2
IoU: 84.3
OA: 99.14
semi-supervised-change-detection-on-whu-20UniMatch V2
IoU: 87.9
OA: 99.50
semi-supervised-change-detection-on-whu-40UniMatch V2
IoU: 88.6
OA: 99.52
semi-supervised-semantic-segmentation-on-1UniMatch V2 (DINOv2-B)
Validation mIoU: 84.5%
semi-supervised-semantic-segmentation-on-10UniMatch V2 (DINOv2-B)
Validation mIoU: 90.8
semi-supervised-semantic-segmentation-on-2UniMatch V2 (DINOv2-B)
Validation mIoU: 84.3%
semi-supervised-semantic-segmentation-on-22UniMatch V2 (DINOv2-B)
Validation mIoU: 83.6
semi-supervised-semantic-segmentation-on-27UniMatch V2 (DINOv2-B)
Validation mIoU: 86.3
semi-supervised-semantic-segmentation-on-28UniMatch V2 (DINOv2-B)
Validation mIoU: 87.9
semi-supervised-semantic-segmentation-on-29UniMatch V2 (DINOv2-B)
Validation mIoU: 88.9
semi-supervised-semantic-segmentation-on-30UniMatch V2 (DINOv2-B)
Validation mIoU: 90.0
semi-supervised-semantic-segmentation-on-41UniMatch V2
Validation mIoU: 45.0
semi-supervised-semantic-segmentation-on-42UniMatch V2
Validation mIoU: 46.7
semi-supervised-semantic-segmentation-on-8UniMatch V2 (DINOv2-B)
Validation mIoU: 85.1%
semi-supervised-semantic-segmentation-on-cocoUniMatch V2
Validation mIoU: 47.9
semi-supervised-semantic-segmentation-on-coco-1UniMatch V2
Validation mIoU: 55.8
semi-supervised-semantic-segmentation-on-coco-2UniMatch V2
Validation mIoU: 58.7
semi-supervised-semantic-segmentation-on-coco-3UniMatch V2
Validation mIoU: 60.4
semi-supervised-semantic-segmentation-on-coco-4UniMatch V2
Validation mIoU: 63.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
UniMatch V2:半监督语义分割的极限推进 | 论文 | HyperAI超神经