摘要

训练有标注类别标签的数据上的神经网络分类器也可以捕捉到类别之间的明显视觉相似性，而无需明确指示其这样做。我们研究了这一观察是否可以扩展到监督学习的传统领域之外：通过仅要求特征在个体实例之间具有区分性，我们能否学习到一种能够捕捉实例之间明显相似性的良好特征表示？我们将这一直觉表述为一个实例级别的非参数分类问题，并使用噪声对比估计（Noise-Contrastive Estimation）来解决由大量实例类别带来的计算挑战。实验结果表明，在无监督学习设置下，我们的方法在ImageNet分类任务上大幅超越了现有最佳方法。此外，我们的方法还表现出随着更多训练数据和更优网络架构的使用，测试性能持续提升的特点。通过微调所学特征，我们在半监督学习和目标检测任务中也获得了具有竞争力的结果。我们的非参数模型非常紧凑：每个图像使用128个特征时，我们的方法仅需600MB存储空间即可处理一百万张图像，从而在运行时实现快速最近邻检索。