4 个月前

自适应后验学习:基于惊喜的记忆模块实现少样本学习

自适应后验学习:基于惊喜的记忆模块实现少样本学习

摘要

从少量观察中快速泛化是智能系统的关键能力。本文介绍了一种名为APL(Approximate Probability Learning)的算法,该算法通过记住遇到过的最令人惊讶的观察来近似概率分布。这些过去的观察数据从外部存储模块中被召回,并由一个解码器网络进行处理,该网络可以结合来自不同存储槽的信息以实现超出直接回忆的泛化能力。我们展示了该算法在少样本分类基准测试中的表现可与现有最佳基线方法相媲美,同时具有较小的内存占用。此外,其内存压缩功能使其能够扩展到数千个未知标签。最后,我们引入了一个比直接分类更具挑战性的元学习推理任务。在这种设置下,APL能够通过演绎推理在每个类别少于一个示例的情况下实现泛化。

代码仓库

cogentlabs/apl
官方
pytorch

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
自适应后验学习:基于惊喜的记忆模块实现少样本学习 | 论文 | HyperAI超神经