4 个月前

锚点在标签噪声学习中真的不可或缺吗?

锚点在标签噪声学习中真的不可或缺吗?

摘要

在标签噪声学习中,\textit{噪声转换矩阵}(即干净标签翻转为噪声标签的概率)在构建\textit{统计一致性分类器}方面起着核心作用。现有的理论表明,通过利用\textit{锚点}(即几乎确定属于某一特定类别的数据点),可以学习到转换矩阵。然而,当没有锚点时,转换矩阵的学习效果会很差,导致当前的一致性分类器显著退化。本文提出了一种无需使用锚点的\textit{转换修正}($T$-Revision)方法,以有效学习转换矩阵,从而获得更好的分类器。具体而言,为了学习一个转换矩阵,我们首先通过利用类似于锚点的数据点进行初始化,这些数据点具有较高的\textit{噪声类别后验概率}。然后,我们在初始化的矩阵中添加一个\textit{松弛变量},该变量可以通过使用噪声数据与分类器一起学习和验证。基准模拟和真实世界标签噪声数据集上的实证结果表明,在不使用精确锚点的情况下,所提出的方法优于最先进的标签噪声学习方法。

代码仓库

基准测试

基准方法指标
learning-with-noisy-labels-on-cifar-100nT-Revision
Accuracy (mean): 51.55
learning-with-noisy-labels-on-cifar-10nT-Revision
Accuracy (mean): 88.52
learning-with-noisy-labels-on-cifar-10n-1T-Revision
Accuracy (mean): 88.33
learning-with-noisy-labels-on-cifar-10n-2T-Revision
Accuracy (mean): 87.71
learning-with-noisy-labels-on-cifar-10n-3T-Revision
Accuracy (mean): 87.79
learning-with-noisy-labels-on-cifar-10n-worstT-Revision
Accuracy (mean): 80.48

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
锚点在标签噪声学习中真的不可或缺吗? | 论文 | HyperAI超神经