
摘要
在通向人工智能的道路上,一个主要的开放问题是开发能够从数据流中逐步学习越来越多概念的系统。在这项工作中,我们引入了一种新的训练策略——iCaRL(类增量学习),该策略允许以类增量的方式进行学习:只需同时提供少量类别的训练数据,新类别可以逐步添加。iCaRL 同时学习强大的分类器和数据表示。这使其区别于早期的工作,后者从根本上局限于固定的 数据表示,因此与深度学习架构不兼容。通过在 CIFAR-100 和 ImageNet ILSVRC 2012 数据集上的实验,我们展示了 iCaRL 可以在很长一段时间内逐步学习许多类别,而其他策略则很快失效。
代码仓库
srebuffi/iCaRL
官方
tf
GitHub 中提及
haseebs/Pseudo-rehearsal-Incremental-Learning
pytorch
GitHub 中提及
yaoyao-liu/mnemonics
pytorch
GitHub 中提及
ContinualAI/avalanche
pytorch
aimagelab/mammoth
pytorch
donlee90/icarl
pytorch
GitHub 中提及
mmasana/FACIL
pytorch
g-u-n/pycil
pytorch
GitHub 中提及
DRSAD/iCaRL
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| class-incremental-learning-on-cifar100 | iCaRL | 10-stage average accuracy: 63.24 |
| incremental-learning-on-cifar-100-50-classes-2 | iCaRL* | Average Incremental Accuracy: 52.57 |
| incremental-learning-on-cifar-100-50-classes-3 | iCaRL* | Average Incremental Accuracy: 57.17 |
| incremental-learning-on-cifar-100-50-classes-4 | iCaRL | Average Incremental Accuracy: 71.33 |
| incremental-learning-on-cifar-100-b0-5steps | iCaRL | Average Incremental Accuracy: 71.14 |
| incremental-learning-on-imagenet-10-steps | iCaRL | # M Params: 11.68 Average Incremental Accuracy: 38.40 Average Incremental Accuracy Top-5: 63.70 Final Accuracy: 22.70 Final Accuracy Top-5: 44.00 |
| incremental-learning-on-imagenet-100-50-3 | iCaRL* | Average Incremental Accuracy: 65.56 |
| incremental-learning-on-imagenet100-10-steps | iCaRL | # M Params: 11.22 Average Incremental Accuracy Top-5: 83.60 Final Accuracy Top-5: 63.80 |