3 个月前

针对细粒度分类的粒度特异性专家混合学习

针对细粒度分类的粒度特异性专家混合学习

摘要

我们旨在将细粒度识别问题的空间划分为若干特定区域。为此,我们提出了一种基于专家混合(Mixture of Experts)的统一框架。由于细粒度识别任务可用数据有限,采用数据划分策略训练多样化专家不可行。为解决这一问题,我们结合渐进式增强学习策略与基于KL散度(Kullback-Leibler Divergence)的约束机制,以促进专家之间的多样性。该策略利用先前专家提供的先验知识,在数据集上逐步学习新的专家,并将其顺序加入模型;同时,引入的KL散度约束迫使各专家生成差异化的预测分布。上述机制促使专家从不同角度学习任务,从而在不同的子空间问题上实现专业化。实验结果表明,所提出的模型显著提升了分类性能,并在多个细粒度识别基准数据集上达到了当前最优水平。

基准测试

基准方法指标
fine-grained-image-classification-on-cub-200MGE-CNN
Accuracy: 89.4%
fine-grained-image-classification-on-nabirdsMGE-CNN
Accuracy: 88.6%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
针对细粒度分类的粒度特异性专家混合学习 | 论文 | HyperAI超神经