摘要

大规模数据集的收集对于深度模型的训练至关重要，然而数据标注过程不可避免地会产生噪声标签，这给深度学习算法带来了严峻挑战。以往的研究通常通过识别并剔除噪声样本，或根据训练样本间的统计特性（如损失值）对标签进行修正来缓解该问题。本文从一个全新的视角出发，深入分析深度特征图，我们通过实证发现：使用干净样本与错误标注样本训练的模型，其激活特征分布具有明显可区分性。基于这一观察，本文提出一种新颖的鲁棒训练方法——对抗性噪声掩码（adversarial noisy masking）。该方法通过一种由标签质量引导的掩码机制对深度特征进行正则化，能够自适应地同时调节输入数据与标签，从而防止模型对噪声样本过拟合。此外，我们设计了一个辅助任务以重建输入数据，该任务自然地提供了无噪声的自监督信号，有效增强了深度模型的泛化能力。所提方法结构简洁、灵活，已在合成数据集和真实世界噪声数据集上进行了验证，相较于现有最先进方法取得了显著的性能提升。