Seonghyeon MoonSamuel S. SohnHonglu ZhouSejong YoonVladimir PavlovicMuhammad Haris KhanMubbasir Kapadia

摘要
少样本分割(Few-shot Segmentation, FSS)旨在仅利用少量标注图像(支持集)对目标类别进行分割。为了提取与目标类别相关的信息,当前表现优异的FSS方法普遍采用一种主流策略:通过支持集掩码去除背景特征。然而,我们观察到,在某些具有挑战性的FSS场景下(例如目标尺寸较小和/或目标边界不准确时),这种受限于支持掩码的特征剔除操作会引入信息瓶颈。为此,本文提出一种新方法——MSI(Maximize Support-set Information),通过融合两种互补的特征源,生成更丰富的相关性图谱,从而最大化支持集所蕴含的信息量。我们将该方法应用于三种近期且性能强劲的FSS模型中进行验证。在多个公开可用的FSS基准数据集上的实验结果表明,所提方法在性能上均取得显著提升,并加速了模型的收敛过程。相关代码与训练好的模型已开源,地址为:https://github.com/moonsh/MSI-Maximize-Support-Set-Information
代码仓库
moonsh/msi-maximize-support-set-information
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| few-shot-semantic-segmentation-on-coco-20i | VAT + MSI (ResNet101) | Mean IoU: 69.2 |
| few-shot-semantic-segmentation-on-coco-20i-1 | VAT + MSI (ResNet-101) | Mean IoU: 49.8 |
| few-shot-semantic-segmentation-on-fss-1000-1 | VAT + MSI (ResNet-101) | Mean IoU: 90.6 |
| few-shot-semantic-segmentation-on-pascal-5i-1 | VAT + MSI (ResNet-101) | FB-IoU: 82.3 Mean IoU: 70.1 |