3 个月前

中心对比损失用于度量学习

中心对比损失用于度量学习

摘要

对比学习是度量学习领域中的一个重要研究方向。然而,由于批大小受限、数据分布不均衡以及过拟合风险等因素,有效采样对比样本仍面临挑战。本文提出一种新型度量学习损失函数——中心对比损失(Center Contrastive Loss),该方法维护一个类别级别的中心库,通过对比损失将查询样本与各类别中心进行对比。中心库能够实时更新,从而加速模型收敛,无需依赖复杂的设计样本挖掘策略。类别中心作为优化良好的分类代理,有效重平衡了各类别的监督信号。此外,所提出的损失函数结合了对比学习与分类方法的优势,通过减小类内差异、增强类间差异,显著提升了嵌入表示的判别能力。实验结果如图1所示,采用该损失函数训练的标准网络(ResNet50)达到了当前最优性能,并实现了更快的收敛速度。

基准测试

基准方法指标
metric-learning-on-cars196CCL (ResNet-50)
R@1: 91.02
metric-learning-on-cub-200-2011CCL (ResNet-50)
R@1: 73.45
metric-learning-on-in-shop-1CCL (ResNet-50)
R@1: 92.31
metric-learning-on-stanford-online-products-1CCL (ResNet-50)
R@1: 83.10

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
中心对比损失用于度量学习 | 论文 | HyperAI超神经