
摘要
我们介绍了一种新的、严格定义的贝叶斯元学习算法,该算法用于学习模型参数先验的概率分布,以实现小样本学习。所提出的算法采用了基于梯度的变分推断方法来推断新任务中模型参数的后验分布。我们的算法可以应用于任何模型架构,并且可以在多种机器学习范式中实施,包括回归和分类。实验结果表明,使用我们提出的元学习算法训练的模型具有良好的校准性和准确性,在两个小样本分类基准测试(Omniglot 和 Mini-ImageNet)上取得了最先进的校准和分类结果,并在多模态任务分布回归中也表现出竞争力。
代码仓库
cnguyen10/few_shot_meta_learning
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| few-shot-image-classification-on-mini-2 | VAMPIRE | Accuracy: 51.54 |
| few-shot-image-classification-on-mini-3 | VAMPIRE | Accuracy: 64.31 |
| few-shot-image-classification-on-omniglot-1-1 | VAMPIRE | Accuracy: 93.2 |
| few-shot-image-classification-on-omniglot-1-2 | VAMPIRE | Accuracy: 98.43 |
| few-shot-image-classification-on-omniglot-5-1 | VAMPIRE | Accuracy: 98.52% |
| few-shot-image-classification-on-omniglot-5-2 | VAMPIRE | Accuracy: 99.56% |
| few-shot-image-classification-on-tiered | VAMPIRE | Accuracy: 69.87 |
| few-shot-image-classification-on-tiered-1 | VAMPIRE | Accuracy: 82.7 |