摘要

尽管采用相同的训练设置，基于长尾数据集训练的网络表现却存在显著差异，这表明长尾学习中存在极大的不确定性。为缓解这一问题，本文提出一种嵌套协同学习（Nested Collaborative Learning, NCL）框架，通过协同学习多个专家模型来共同应对挑战。NCL包含两个核心组件：嵌套个体学习（Nested Individual Learning, NIL）和嵌套平衡在线蒸馏（Nested Balanced Online Distillation, NBOD），分别专注于单个专家的个体监督学习以及多个专家之间的知识迁移。为更全面地学习特征表示，NIL与NBOD均采用嵌套式设计，即在全局视角下对所有类别进行学习的同时，也在局部视角下聚焦于部分困难类别。针对局部视角的学习，本文提出一种困难类别挖掘（Hard Category Mining, HCM）方法，通过筛选预测得分较高的负类别作为困难类别，以增强模型对细微差异的识别能力。在NCL框架中，全局与局部两个视角的学习相互嵌套、紧密关联且互为补充，使网络不仅能捕捉全局且鲁棒的特征，还具备精细的判别能力。此外，进一步引入自监督机制以增强特征表达能力。大量实验结果表明，无论采用单模型还是集成策略，所提方法均显著优于现有最先进方法。