
摘要
本文介绍了一种针对类别增量语义分割(CISS)问题的先进基线方法。尽管近期的CISS算法通过使用知识蒸馏(KD)技术的不同变体来解决这一问题,但它们未能完全应对CISS中的关键挑战,即灾难性遗忘、背景类别的语义漂移以及多标签预测问题。为了更好地应对这些挑战,我们提出了一种新的方法,称为SSUL-M(带有未知标签和记忆的语义分割),该方法通过精心结合专为语义分割设计的技术来实现。具体而言,我们声称有三个主要贡献:(1) 在背景类别中定义未知类别,以帮助学习未来的类别(增强可塑性);(2) 通过冻结骨干网络和过去的分类器,并使用二元交叉熵损失和伪标签来克服灾难性遗忘(增强稳定性);(3) 首次在CISS中利用小型示例记忆库,以同时提高可塑性和稳定性。大量实验表明,我们的方法在标准基准数据集上显著优于最近的先进基线方法。此外,我们通过详尽的消融分析证明了我们的贡献,并讨论了CISS问题与传统面向分类的类别增量学习之间的不同性质。官方代码可在以下地址获取:https://github.com/clovaai/SSUL。
代码仓库
clovaai/SSUL
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| disjoint-10-1-on-pascal-voc-2012 | SSUL-M | mIoU: 53.50 |
| disjoint-10-1-on-pascal-voc-2012 | SSUL | mIoU: 50.87 |
| disjoint-15-1-on-pascal-voc-2012 | SSUL | mIoU: 64.01 |
| disjoint-15-1-on-pascal-voc-2012 | SSUL-M | mIoU: 68.58 |
| disjoint-15-5-on-pascal-voc-2012 | SSUL-M | Mean IoU: 69.83 |
| disjoint-15-5-on-pascal-voc-2012 | SSUL | Mean IoU: 69.10 |
| overlapped-10-1-on-pascal-voc-2012 | SSUL | mIoU: 59.25 |
| overlapped-10-1-on-pascal-voc-2012 | SSUL-M | mIoU: 64.12 |
| overlapped-100-5-on-ade20k | SSUL-M | mIoU: 34.56 |
| overlapped-100-5-on-ade20k | SSUL | mIoU: 32.48 |
| overlapped-100-50-on-ade20k | SSUL-M | mIoU: 34.37 |
| overlapped-100-50-on-ade20k | SSUL | mIoU: 33.58 |
| overlapped-15-1-on-pascal-voc-2012 | SSUL-M | mIoU: 71.37 |
| overlapped-15-1-on-pascal-voc-2012 | SSUL | mIoU: 67.61 |
| overlapped-15-5-on-pascal-voc-2012 | SSUL | Mean IoU (val): 71.22 |
| overlapped-15-5-on-pascal-voc-2012 | SSUL-M | Mean IoU (val): 73.02 |
| overlapped-50-50-on-ade20k | SSUL-M | mIoU: 29.77 |
| overlapped-50-50-on-ade20k | SSUL | mIoU: 29.56 |