4 个月前

概率模型无关元学习

概率模型无关元学习

摘要

元学习(meta-learning)用于少样本学习(few-shot learning)的目标是从先前的任务和经验中获取一个先验,使得新任务可以从少量数据中进行学习。然而,少样本学习中的一个关键挑战是任务模糊性:即使可以从大量先前任务中元学习到一个强大的先验,新任务的小型数据集可能仍然过于模糊,无法获得针对该任务的单一准确模型(例如分类器)。在本文中,我们提出了一种概率元学习算法,可以从模型分布中为新任务采样模型。我们的方法扩展了模型无关元学习(model-agnostic meta-learning, MAML),后者通过梯度下降适应新任务,以包含通过变分下界训练的参数分布。在元测试阶段,我们的算法通过一种简单的程序来适应,该程序在梯度下降过程中注入噪声;而在元训练阶段,模型被训练成使得这种随机适应过程能够从近似的模型后验分布中生成样本。实验结果表明,我们的方法可以在模糊的少样本学习问题中采样出合理的分类器和回归器。我们还展示了如何利用对模糊性的推理来解决下游主动学习问题。

基准测试

基准方法指标
few-shot-image-classification-on-mini-1PLATIPUS
Accuracy: 50.13%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
概率模型无关元学习 | 论文 | HyperAI超神经