4 个月前

局部聚合用于无监督视觉嵌入学习

局部聚合用于无监督视觉嵌入学习

摘要

无监督学习方法在神经网络中的应用对于推进人工智能具有重要意义,这不仅因为它们能够在无需大量昂贵标注的情况下训练网络,还因为它们能够更好地模拟人类所采用的通用学习方式。然而,长期以来,无监督网络的性能一直落后于有监督网络,尤其是在大规模视觉识别领域。最近,在训练深度卷积嵌入以最大化非参数实例分离和聚类目标方面的进展显示了缩小这一差距的希望。本文中,我们描述了一种方法,该方法通过最大化局部聚集度量来训练嵌入函数,使得相似的数据实例在嵌入空间中相互靠近,而不相似的实例则彼此分离。这种聚集度量是动态的,允许不同尺度的软聚类出现。我们在多个大规模视觉识别数据集上评估了该方法,包括在ImageNet对象识别、Places 205场景识别和PASCAL VOC对象检测任务上取得了最先进的无监督迁移学习性能。

代码仓库

基准测试

基准方法指标
contrastive-learning-on-imagenet-1kResNet50
ImageNet Top-1 Accuracy: 60.2
self-supervised-image-classification-onLocalAgg (ResNet-50)
Number of Params: 24M
Top 1 Accuracy: 60.2%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
局部聚合用于无监督视觉嵌入学习 | 论文 | HyperAI超神经