3 个月前

DAS:用于深度度量学习的密集锚点采样

DAS:用于深度度量学习的密集锚点采样

摘要

深度度量学习(Deep Metric Learning, DML)旨在学习一个嵌入函数,将语义上相似的数据映射到嵌入空间中的相近位置,在图像检索、人脸识别等众多应用中发挥着关键作用。然而,DML方法的性能往往高度依赖于采样策略,以从嵌入空间中选取有效的训练数据。在实际应用中,嵌入空间中的表示通常由深度模型生成,而由于训练样本的缺失,嵌入空间中常存在“空白区域”,从而引发所谓的“缺失嵌入”(missing embedding)问题。这一问题会降低采样质量,进而导致DML性能退化。针对上述挑战,本文研究如何缓解“缺失嵌入”问题,以提升采样质量并实现更高效的深度度量学习。为此,我们提出一种密集锚点采样(Densely-Anchored Sampling, DAS)机制,将具有对应数据点的嵌入视为“锚点”(anchor),并充分利用锚点周围的嵌入空间,生成大量无对应数据点的密集嵌入。具体而言,我们分别提出两种策略:针对单个锚点,采用判别性特征缩放(Discriminative Feature Scaling, DFS)来增强其邻域嵌入的区分能力;针对多个锚点,则引入记忆化变换偏移(Memorized Transformation Shifting, MTS)以协同生成更具代表性的嵌入。通过融合含有数据点与不含数据点的嵌入,DAS能够为采样过程提供更丰富的嵌入样本,从而显著提升DML的训练效率与性能。该方法可无缝集成至现有的DML框架中,无需额外复杂结构或超参数调优,即可实现性能提升。在三个基准数据集上的大量实验结果表明,所提方法在多个主流DML模型上均展现出显著优越性。

代码仓库

lizhaoliu-Lec/DAS
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
metric-learning-on-cars196Margin + DAS
R@1: 88.34
metric-learning-on-cars196MS + SEC + DAS
R@1: 87.8
metric-learning-on-cub-200-2011-4MS + DAS (K=8)
R@1: 69.19
metric-learning-on-stanford-online-products-1MS + DAS (K=8)
R@1: 80.59

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
DAS:用于深度度量学习的密集锚点采样 | 论文 | HyperAI超神经