3 个月前

地理感知的自监督学习

地理感知的自监督学习

摘要

对比学习方法在计算机视觉任务中显著缩小了监督学习与无监督学习之间的性能差距。本文探讨了该方法在地理定位数据集(如遥感数据)中的应用,此类数据通常具有大量未标注样本,但标注数据稀缺。我们首先表明,由于任务特性的差异,对比学习与监督学习在标准基准上仍存在显著差距。为弥合这一差距,我们提出了一种新颖的训练方法,充分利用遥感数据的时空结构特性。具体而言,我们通过时间上对齐的时空图像构建对比学习中的时间正样本对,并利用地理定位信息设计预训练任务。实验结果表明,所提出的方法在遥感图像分类、目标检测和语义分割任务上显著缩小了对比学习与监督学习之间的性能差距。此外,我们还验证了该方法可推广至带有地理标签的ImageNet图像数据,在多种下游任务中均取得了性能提升。项目主页详见:geography-aware-ssl.github.io。

代码仓库

sustainlab-group/geography-aware-ssl
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
semantic-segmentation-on-spacenet-1PSANet w/ ResNet50 - FMoW self-supervised pre-training w/ MoCo-V2 + Temporal Positives
Mean IoU: 78.48
semantic-segmentation-on-spacenet-1PSANet w/ ResNet50 backbone - ImageNet pretrained
Mean IoU: 75.23
semantic-segmentation-on-spacenet-1PSANet w/ ResNet50 backbone - FMoW pretrained
Mean IoU: 75.57
semantic-segmentation-on-spacenet-1PSANet w/ ResNet50 backbone
Mean IoU: 74.93
semantic-segmentation-on-spacenet-1PSANet w/ ResNet50 backbone - FMoW self-supervised pre-training w/ MoCo-V2
Mean IoU: 78.05

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
地理感知的自监督学习 | 论文 | HyperAI超神经