4 个月前

通过集合到集合函数的嵌入适应实现少样本学习

通过集合到集合函数的嵌入适应实现少样本学习

摘要

在视觉识别中,有限数据下的学习是一个关键挑战。许多少样本学习方法通过从已见类别中学习实例嵌入函数来应对这一挑战,并将该函数应用于未见类别中的实例,这些实例仅有少量标签。这种迁移学习方式是任务无关的:嵌入函数并不是针对未见类别进行最优区分性学习的,而是在这些类别之间进行区分以完成目标任务。本文提出了一种新的方法,通过集合到集合(set-to-set)函数将实例嵌入适应于目标分类任务,从而生成特定于任务且具有区分性的嵌入。我们对各种集合到集合函数的具体实现进行了实证研究,并观察到Transformer是最有效的——因为它天然满足了我们期望模型的关键属性。我们将此模型称为FEAT(基于Transformer的少样本嵌入适应),并在标准的少样本分类基准以及四个扩展的少样本学习场景中对其进行了验证,这些场景包括跨域、转导式、广义少样本学习和低样本学习等重要应用案例。实验结果表明,FEAT在基线模型及先前方法上均取得了一致的性能提升,并在两个基准测试中建立了新的最先进结果。

代码仓库

Alibaba-AAIG/SSL-FEW-SHOT
pytorch
GitHub 中提及
Sha-Lab/FEAT
官方
pytorch
GitHub 中提及
han-jia/lastshot
pytorch
GitHub 中提及
danielshalam/bpa
pytorch
GitHub 中提及
DanielShalam/SOT
pytorch
GitHub 中提及

基准测试

基准方法指标
few-shot-image-classification-on-cub-200-5feat (ProtoNet)
Accuracy: 83.03
few-shot-image-classification-on-cub-200-5-1feat (ProtoNet)
Accuracy: 68.65
few-shot-image-classification-on-mini-2feat+ (ProtoNet-ResNet)
Accuracy: 61.72
few-shot-image-classification-on-mini-3feat+ (ProtoNet-ResNet)
Accuracy: 78.38
few-shot-image-classification-on-mini-5FEAT (Ye et al., 2018)
Accuracy: 39.00

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
通过集合到集合函数的嵌入适应实现少样本学习 | 论文 | HyperAI超神经