
摘要
当前最先进的少样本学习方法主要致力于设计高效的特征表示训练流程,随后采用简单的分类器(如最近质心分类器)进行分类。本文提出一种正交的全新方法,该方法与所使用的特征无关,专注于通过元学习来优化分类器本身。具体而言,我们提出了MetaQDA,这是一种贝叶斯元学习框架,可视为经典二次判别分析(Quadratic Discriminant Analysis, QDA)的推广。该方法对实际应用具有多重优势:元学习过程快速且内存效率高,无需微调特征表示;对预训练特征的选择具有完全的无关性,因而可持续受益于特征表示领域的最新进展。实验结果表明,该方法在跨域少样本学习任务中表现出稳健的性能,且在真实应用场景中尤为关键——显著提升了预测结果的不确定性校准能力。
代码仓库
Open-Debin/MetaQDA_Pub
pytorch
GitHub 中提及
open-debin/bayesian_mqda
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| few-shot-image-classification-on-cifar-fs-5 | MetaQDA | Accuracy: 75.83 |
| few-shot-image-classification-on-cifar-fs-5-1 | MetaQDA | Accuracy: 88.79 |
| few-shot-image-classification-on-meta-dataset | URT+MQDA | Accuracy: 74.3 |
| few-shot-image-classification-on-mini-2 | MetaQDA | Accuracy: 67.83 |
| few-shot-image-classification-on-mini-3 | MetaQDA | Accuracy: 84.28 |
| few-shot-image-classification-on-tiered | MetaQDA | Accuracy: 74.33 |
| few-shot-image-classification-on-tiered-1 | MetaQDA | Accuracy: 89.56 |