4 个月前

EAGLE:基于特征聚合的对象中心无监督语义分割学习方法

EAGLE:基于特征聚合的对象中心无监督语义分割学习方法

摘要

语义分割长期以来一直依赖于大量的像素级标注数据,这促使了无监督方法的出现。在这些方法中,利用自监督视觉变换器进行无监督语义分割(USS)已经取得了稳步进展,生成了具有表现力的深度特征。然而,对于包含复杂对象的图像进行语义分割时,仍面临一个主要挑战:即在补丁级特征中缺乏显式的对象级语义编码。这一技术限制通常导致对具有多样结构的复杂对象的分割不足。为了解决这一问题,我们提出了一种新的方法——EAGLE,该方法强调以对象为中心的表示学习用于无监督语义分割。具体而言,我们引入了EiCue,一种光谱技术,通过从深度图像特征的语义相似度矩阵和图像的颜色亲和力中导出的特征基(eigenbasis),提供语义和结构线索。此外,通过结合我们的以对象为中心的对比损失与EiCue,我们引导模型学习具有图像内和图像间对象特征一致性的对象级表示,从而提高语义准确性。在COCO-Stuff、Cityscapes和Potsdam-3数据集上的大量实验表明,EAGLE在复杂场景中实现了准确且一致的语义分割,并达到了最先进的USS结果。

代码仓库

MICV-yonsei/EAGLE
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
unsupervised-semantic-segmentation-onEAGLE (DINO, ViT-S/8)
Accuracy: 81.8
mIoU: 19.7
unsupervised-semantic-segmentation-onEAGLE (DINO, ViT-B/8)
Accuracy: 79.4
mIoU: 22.1
unsupervised-semantic-segmentation-on-coco-7EAGLE (DINO, ViT-S/8)
Accuracy: 64.2
mIoU: 27.2
unsupervised-semantic-segmentation-on-potsdam-1EAGLE (DINO, ViT-B/8)
Accuracy: 83.3
mIoU: 71.1

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
EAGLE:基于特征聚合的对象中心无监督语义分割学习方法 | 论文 | HyperAI超神经