3 个月前

自举图像与其干净标签和噪声标签之间的关系

自举图像与其干净标签和噪声标签之间的关系

摘要

许多先进的噪声标签学习方法依赖于在训练过程中估计样本真实标签并舍弃原始噪声标签的学习机制。然而,这种做法阻碍了模型对图像、噪声标签与真实标签之间关系的学习,而此类关系在处理实例相关性标签噪声问题时已被证明具有重要价值。此外,尽管某些方法旨在学习这种关系,但通常需要干净标注的数据子集,以及知识蒸馏或多分支模型等复杂的训练策略。本文提出一种新型训练算法,仅通过一个简单模型即可在无需干净标注数据子集的情况下,学习真实标签与噪声标签之间的关系。该算法采用三阶段流程:1)首先进行自监督预训练,并对分类器进行早停训练,以自信地预测训练集中部分样本的真实标签;2)利用第一阶段获得的干净样本,构建图像、噪声标签与真实标签之间的关联关系,并借助半监督学习策略对剩余训练样本进行高效重标注;3)在第二阶段所有重标注样本的基础上,对分类器进行监督训练。通过学习这一关键关系,我们在非对称噪声和实例相关性噪声场景下均取得了当前最优的性能表现。

代码仓库

基准测试

基准方法指标
image-classification-on-mini-webvision-1-0BtR
ImageNet Top-1 Accuracy: 75.96
ImageNet Top-5 Accuracy: 92.20
Top-1 Accuracy: 80.88
Top-5 Accuracy: 92.76
learning-with-noisy-labels-on-animalBtR
Accuracy: 88.5
ImageNet Pretrained: NO
Network: Vgg19-BN

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
自举图像与其干净标签和噪声标签之间的关系 | 论文 | HyperAI超神经