4 个月前

AllSpark:在变换器中从无标签数据中重生有标签特征以实现半监督语义分割

AllSpark:在变换器中从无标签数据中重生有标签特征以实现半监督语义分割

摘要

半监督语义分割(SSSS)已被提出以减轻耗时的像素级手动标注负担,该方法利用有限的标注数据和大量未标注数据。目前最先进的方法通过真实标签训练标注数据,并通过伪标签训练未标注数据。然而,这两种训练流程是分开的,这使得标注数据在训练过程中占据主导地位,导致伪标签质量较低,从而影响最终结果。为了解决这一问题,我们提出了 AllSpark,该方法通过通道交叉注意力机制从未标注特征中重新生成标注特征。我们进一步引入了语义记忆模块和通道语义分组策略,以确保未标注特征能够充分代表标注特征。AllSpark 在架构层面而非框架层面对 SSSS 进行了创新设计,避免了日益复杂的训练管道设计。此外,AllSpark 可被视为一个灵活的瓶颈模块,可以无缝集成到基于变压器的一般分割模型中。在 Pascal、Cityscapes 和 COCO 基准测试中,所提出的 AllSpark 在所有评估协议下均优于现有方法,无需额外复杂的技巧。代码和模型权重可在以下链接获取:https://github.com/xmed-lab/AllSpark。

代码仓库

xmed-lab/AllSpark
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
semi-supervised-semantic-segmentation-on-10AllSpark
Validation mIoU: 82.12
semi-supervised-semantic-segmentation-on-21AllSpark
Validation mIoU: 81.65
semi-supervised-semantic-segmentation-on-27AllSpark
Validation mIoU: 76.07
semi-supervised-semantic-segmentation-on-28AllSpark
Validation mIoU: 78.41
semi-supervised-semantic-segmentation-on-29AllSpark
Validation mIoU: 79.77
semi-supervised-semantic-segmentation-on-30AllSpark
Validation mIoU: 80.75
semi-supervised-semantic-segmentation-on-4AllSpark
Validation mIoU: 82.04%
semi-supervised-semantic-segmentation-on-44AllSpark
Validation mIoU: 81.13
semi-supervised-semantic-segmentation-on-9AllSpark
Validation mIoU: 80.92
semi-supervised-semantic-segmentation-on-cocoAllSpark
Validation mIoU: 34.10
semi-supervised-semantic-segmentation-on-coco-1AllSpark
Validation mIoU: 41.65
semi-supervised-semantic-segmentation-on-coco-2AllSpark
Validation mIoU: 45.48
semi-supervised-semantic-segmentation-on-coco-3AllSpark
Validation mIoU: 49.56

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
AllSpark:在变换器中从无标签数据中重生有标签特征以实现半监督语义分割 | 论文 | HyperAI超神经