
摘要
从少量观察中快速泛化是智能系统的关键能力。本文介绍了一种名为APL(Approximate Probability Learning)的算法,该算法通过记住遇到过的最令人惊讶的观察来近似概率分布。这些过去的观察数据从外部存储模块中被召回,并由一个解码器网络进行处理,该网络可以结合来自不同存储槽的信息以实现超出直接回忆的泛化能力。我们展示了该算法在少样本分类基准测试中的表现可与现有最佳基线方法相媲美,同时具有较小的内存占用。此外,其内存压缩功能使其能够扩展到数千个未知标签。最后,我们引入了一个比直接分类更具挑战性的元学习推理任务。在这种设置下,APL能够通过演绎推理在每个类别少于一个示例的情况下实现泛化。
代码仓库
cogentlabs/apl
官方
pytorch
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| few-shot-image-classification-on-omniglot-1-1 | APL | Accuracy: 97.2% |
| few-shot-image-classification-on-omniglot-1-2 | APL | Accuracy: 97.9 |
| few-shot-image-classification-on-omniglot-1-4 | APL | Accuracy: 73.5 |
| few-shot-image-classification-on-omniglot-1-5 | APL | Accuracy: 68.9 |
| few-shot-image-classification-on-omniglot-5-1 | APL | Accuracy: 97.6% |
| few-shot-image-classification-on-omniglot-5-2 | APL | Accuracy: 99.9 |
| few-shot-image-classification-on-omniglot-5-4 | APL | Accuracy: 88 |
| few-shot-image-classification-on-omniglot-5-5 | APL | Accuracy: 78.9 |