3 个月前

用于少样本学习的星群网络

用于少样本学习的星群网络

摘要

深度卷积神经网络的成功建立在有效卷积操作的学习基础之上,通过滤波、激活和池化等操作捕捉层次化的结构化特征。然而,在现有的CNN框架中,显式的结构化特征(如物体部件)缺乏足够的表达能力。本文针对少样本学习问题,提出通过引入星群模型(constellation model)扩展CNN架构,以增强结构化特征的表达能力:该模型采用密集部件表示,对细胞级特征进行聚类与编码,并利用注意力机制进一步建模细胞特征之间的关系。通过增加星群分支,提升对物体部件的感知能力,所提方法在保持CNN原有优势的同时,使整体内部表征在少样本学习场景下更具鲁棒性。在CIFAR-FS、FC100和mini-ImageNet三个基准数据集上的实验表明,该方法显著优于现有少样本学习方法。

基准测试

基准方法指标
few-shot-image-classification-on-cifar-fs-5ConstellationNets
Accuracy: 75.4
few-shot-image-classification-on-cifar-fs-5-1ConstellationNets
Accuracy: 86.8
few-shot-image-classification-on-fc100-5-wayConstellationNets
Accuracy: 43.8
few-shot-image-classification-on-fc100-5-way-1ConstellationNets
Accuracy: 59.7
few-shot-image-classification-on-mini-2ConstellationNets
Accuracy: 64.89
few-shot-image-classification-on-mini-3ConstellationNets
Accuracy: 79.95

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于少样本学习的星群网络 | 论文 | HyperAI超神经