3 个月前

LongReMix:在噪声标签环境下的高置信度样本鲁棒学习

LongReMix:在噪声标签环境下的高置信度样本鲁棒学习

摘要

深度神经网络模型对有限程度的标签噪声具有一定的鲁棒性,但在高噪声率场景下记忆错误标签的能力仍是尚未解决的关键问题。目前表现最优异的噪声标签学习算法通常采用两阶段流程:第一阶段为无监督学习,用于将训练样本分类为“干净”或“噪声”标签;第二阶段为半监督学习,通过最小化经验邻域风险(Empirical Vicinal Risk, EVR),利用第一阶段识别出的“干净”样本构成的有标签集与“噪声”样本构成的无标签集进行优化。本文提出假设:此类两阶段噪声标签学习方法的泛化性能,取决于无监督分类器的准确率以及训练集的规模,二者共同影响EVR的最小化效果。我们通过实验验证了上述两个假设,并提出了一种新型的两阶段噪声标签训练算法——LongReMix。我们在多个噪声标签基准数据集(包括CIFAR-10、CIFAR-100、WebVision、Clothing1M和Food101-N)上对LongReMix进行了测试。实验结果表明,与现有方法相比,LongReMix在高噪声场景下展现出更优的泛化能力,且在多数数据集上达到了当前最优性能。相关代码已公开,地址为:https://github.com/filipe-research/LongReMix。

代码仓库

基准测试

基准方法指标
image-classification-on-clothing1mLongReMix
Accuracy: 74.38%
image-classification-on-food-101n-1LongReMix
Accuracy: 87.39%
image-classification-on-mini-webvision-1-0LongReMix (Inception-ResNet-v2)
Top-1 Accuracy: 78.92
Top-5 Accuracy: 92.32
learning-with-noisy-labels-on-food-101LongReMix
Accuracy (% ): 86.42

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
LongReMix:在噪声标签环境下的高置信度样本鲁棒学习 | 论文 | HyperAI超神经