4 个月前

动态少样本视觉学习而不遗忘

动态少样本视觉学习而不遗忘

摘要

人类视觉系统具有从少量示例中轻松学习新概念的卓越能力。在机器学习视觉系统中模拟这种行为是一个有趣且极具挑战性的研究问题,对于现实世界中的视觉应用具有许多实际优势。在此背景下,我们的工作目标是设计一个少样本视觉学习系统,该系统在测试时能够高效地从少量训练数据中学习新的类别,同时不会忘记其最初训练过的类别(称为基础类别)。为了实现这一目标,我们提出:(a) 扩展一个对象识别系统,加入基于注意力机制的少样本分类权重生成器;(b) 重新设计卷积神经网络模型的分类器,将其作为特征表示与分类权重向量之间的余弦相似度函数。后者不仅统一了新类别和基础类别的识别,还使得特征表示在“未见”类别上具有更好的泛化能力。我们在 Mini-ImageNet 上对我们的方法进行了广泛评估,在少样本识别方面取得了比先前最先进的方法更好的结果(即在 1-shot 和 5-shot 设置下分别达到了 56.20% 和 73.00% 的准确率),同时在基础类别上的准确性没有任何损失,这是大多数先前方法所缺乏的特点。最后,我们将我们的方法应用于最近由 Bharath 和 Girshick [4] 引入的少样本基准测试中,并同样取得了最先进的结果。本文的代码和模型将发布在:https://github.com/gidariss/FewShotWithoutForgetting

代码仓库

jaekyeom/mabas
pytorch
GitHub 中提及
xcmax/FewShotWithoutForgetting
pytorch
GitHub 中提及
gidariss/FewShotWithoutForgetting
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
few-shot-image-classification-on-imagenet-1Dynamic FSL
Top-5 Accuracy: 58.2
few-shot-image-classification-on-mini-2Cosine similarity function + C64F feature extractor
Accuracy: 56.20
few-shot-image-classification-on-mini-3Cosine similarity function + C64F feature extractor
Accuracy: 72.81

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
动态少样本视觉学习而不遗忘 | 论文 | HyperAI超神经