3 个月前

动态损失用于鲁棒学习

动态损失用于鲁棒学习

摘要

标签噪声与类别不平衡在现实世界数据中常常同时存在。然而,以往针对鲁棒学习的研究通常仅关注其中一种数据偏差,当二者共存时性能显著下降。为弥补这一差距,本文提出一种基于元学习的动态损失函数,能够根据训练过程自动调整目标函数,从而在长尾噪声数据上稳健地学习分类器。具体而言,该动态损失由标签校正器和边界生成器两部分组成:前者用于修正噪声标签,后者则通过感知数据的内在分布及分类器的学习状态,为每一类别生成可加的分类边界。结合一种新型的分层采样策略,该策略通过引入多样且困难的样本,丰富少量无偏的元数据,使动态损失中的两个组件通过元学习联合优化,进而促使分类器更好地适应干净且平衡的测试数据。大量实验表明,该方法在包含多种数据偏差的多个真实世界与合成数据集(如CIFAR-10/100、Animal-10N、ImageNet-LT和Webvision)上均取得了当前最优的分类准确率。代码即将公开。

代码仓库

基准测试

基准方法指标
image-classification-on-mini-webvision-1-0Dynamic Loss (Inception-ResNet-v2)
ImageNet Top-1 Accuracy: 74.76
ImageNet Top-5 Accuracy: 93.08
Top-1 Accuracy: 80.12
Top-5 Accuracy: 93.64
learning-with-noisy-labels-on-animalDynamic Loss
Accuracy: 86.5
ImageNet Pretrained: NO
Network: Vgg19-BN

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
动态损失用于鲁棒学习 | 论文 | HyperAI超神经