3 个月前

基于任务特定适配器的跨域少样本学习

基于任务特定适配器的跨域少样本学习

摘要

本文研究了跨域小样本分类问题,旨在仅利用少量标注样本,从先前未见的类别与领域中学习分类器。近年来的方法通常通过引入与任务无关(task-agnostic)和与任务相关(task-specific)的权重来参数化小样本分类器:前者在大规模训练集上预先学习,而后者则通过一个辅助网络,基于少量支持集动态预测。本文聚焦于对后者——即任务相关权重的估计,并提出一种新方法:直接在小规模支持集上从零开始学习任务相关权重,而非采用动态估计的方式。通过系统的分析,我们发现,将任务相关权重以矩阵形式的参数化适配器(parametric adapters)进行建模,并将其残差连接(residual connections)引入骨干网络的多个中间层,能够显著提升当前最先进模型在Meta-Dataset基准上的性能,且仅带来微小的额外计算开销。

代码仓库

VICO-UoE/URL
官方
tf
GitHub 中提及
google-research/meta-dataset
官方
tf
GitHub 中提及
jimzai/deta
pytorch
GitHub 中提及
nobody-1617/deta
pytorch
GitHub 中提及

基准测试

基准方法指标
few-shot-image-classification-on-meta-datasetTSA (ResNet18, URL, residual adapters, 84x84 image, shuffled data, scratch, MDL)
Accuracy: 78.07

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于任务特定适配器的跨域少样本学习 | 论文 | HyperAI超神经