3 个月前

少样本类增量学习

少样本类增量学习

摘要

能够增量式地学习新类别是实现真实世界人工智能系统的关键能力。本文聚焦于一个具有挑战性但极具实际意义的问题——少样本类别增量学习(Few-shot Class-Incremental Learning, FSCIL)。FSCIL要求卷积神经网络(CNN)模型在仅依赖极少量标注样本的情况下,持续学习新类别,同时不遗忘先前已学习的知识。为解决这一问题,我们采用神经气体(Neural Gas, NG)网络来表征知识,该网络能够学习并保持由不同类别所构成的特征流形的拓扑结构。在此基础上,我们提出了拓扑保持型知识增量框架——TOPIC(TOpology-Preserving knowledge InCrementer)。TOPIC通过稳定NG网络的拓扑结构来缓解旧类别的遗忘问题,并通过动态扩展与适应NG网络以应对新类别训练样本,从而提升对少样本新类别的表征学习能力。大量实验结果表明,所提出的方法在CIFAR100、miniImageNet和CUB200等多个数据集上,显著优于现有的各类先进类别增量学习方法。

代码仓库

xyutao/fscil
mxnet
GitHub 中提及

基准测试

基准方法指标
few-shot-class-incremental-learning-on-cifarAL-MML
Average Accuracy: 42.62
few-shot-class-incremental-learning-on-miniAL-MML
Average Accuracy: 39.64
Last Accuracy : 24.42

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
少样本类增量学习 | 论文 | HyperAI超神经