3 个月前

深度度量学习中的分组损失

深度度量学习中的分组损失

摘要

深度度量学习通过利用神经网络获取高度判别性的特征嵌入,在聚类和图像检索等任务中取得了令人瞩目的成果,这些嵌入可用于将样本划分为不同类别。大量研究致力于设计智能损失函数或数据挖掘策略,以优化此类网络的训练过程。然而,大多数现有方法仅基于小批量(mini-batch)内的样本对或三元组来计算损失函数,其通常依赖于嵌入之间的距离度量。本文提出一种名为Group Loss的新损失函数,该方法基于可微分的标签传播机制,能够在组内所有样本之间强制实现嵌入相似性,同时促进不同组间数据点之间的低密度区域分布。在“相似对象应属于同一组”的平滑性假设指导下,所提出的损失函数能够引导神经网络完成分类任务,并在类别内部样本间实现一致的标签分配。实验结果表明,该方法在多个数据集上均取得了当前最优的聚类与图像检索性能。此外,当与集成学习等其他技术结合时,该方法展现出更大的潜力,进一步提升了模型的泛化能力与鲁棒性。

代码仓库

laurinwagner/grouploss_plus
pytorch
GitHub 中提及
dvl-tum/group_loss
官方
pytorch

基准测试

基准方法指标
metric-learning-on-cars196Group Loss
R@1: 85.6
metric-learning-on-cub-200-2011BN-Inception + Group Loss
R@1: 65.5
metric-learning-on-stanford-online-products-1Group Loss
R@1: 75.7

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
深度度量学习中的分组损失 | 论文 | HyperAI超神经