3 个月前

扩展的少样本学习:利用现有资源实现新任务

扩展的少样本学习:利用现有资源实现新任务

摘要

在许多实际的少样本学习问题中,尽管标注样本稀少,但通常存在大量潜在包含有用信息的辅助数据集。为此,我们提出了“扩展少样本学习”(extended few-shot learning)这一新问题,以研究此类场景。针对少样本图像分类中高效选择并有效利用辅助数据的挑战,我们提出了一种新的框架。给定一个大规模的辅助数据集以及类别之间的语义相似性概念,我们自动选取“伪支持样本”(pseudo shots),即来自与目标任务相关其他类别的标注样本。我们发现,传统的简单方法,如(1)将这些额外样本与目标任务样本同等建模,或(2)通过迁移学习利用它们来学习特征,仅能带来有限的准确率提升。相比之下,我们提出了一种掩码模块(masking module),该模块通过调整辅助数据的特征表示,使其更接近目标任务类别的特征。实验表明,该掩码模块在性能上分别优于简单的支持样本建模方法和迁移学习策略,准确率提升分别达4.68和6.03个百分点。

代码仓库

Reza-esfandiarpoor/pseudo-shots
官方
pytorch
GitHub 中提及
BatsResearch/efsl
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
few-shot-image-classification-on-cifar-fs-1pseudo-shots
Accuracy: 81.87%
few-shot-image-classification-on-cifar-fs-5pseudo-shots
Accuracy: 81.87
few-shot-image-classification-on-cifar-fs-5-1pseudo-shots
Accuracy: 89.12
few-shot-image-classification-on-cifar-fs-5-2pseudo-shots
Accuracy: 89.12
few-shot-image-classification-on-fc100-5-waypseudo-shots
Accuracy: 50.57
few-shot-image-classification-on-fc100-5-way-1pseudo-shots
Accuracy: 61.58
few-shot-image-classification-on-fewshotpseudo-shots
Accuracy: 50.57%
few-shot-image-classification-on-fewshot-1pseudo-shots
Accuracy: 61.58%
few-shot-image-classification-on-mini-2pseudo-shots
Accuracy: 73.35
few-shot-image-classification-on-mini-3pseudo-shots
Accuracy: 82.51
few-shot-image-classification-on-tieredpseudo-shots
Accuracy: 76.55
few-shot-image-classification-on-tiered-1pseudo-shots
Accuracy: 86.82

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
扩展的少样本学习:利用现有资源实现新任务 | 论文 | HyperAI超神经