4 个月前

使用预训练CNN和关联记忆库的无监督学习

使用预训练CNN和关联记忆库的无监督学习

摘要

从一个全面标注的数据集中提取的深度卷积特征包含了大量的表征信息,这些信息可以有效地应用于新的领域。尽管通用特征在许多视觉任务中取得了良好的结果,但为了使预训练的深度CNN模型更加有效并提供最先进(state-of-the-art)的性能,仍需要进行微调。在监督设置下使用反向传播算法进行微调是一个耗时且耗费资源的过程。本文提出了一种新的架构和方法,用于无监督对象识别,该方法解决了预训练基于CNN的监督深度学习方法中与微调相关的问题,同时允许自动特征提取。与现有工作不同,我们的方法适用于一般的对象识别任务。它使用一个在相关领域预训练的CNN模型进行自动特征提取,并通过基于霍普菲尔德网络(Hopfield network)的联想记忆库来存储分类所需的模式。在我们的框架中使用联想记忆库不仅消除了反向传播的需求,而且在未见过的数据集上提供了具有竞争力的性能。

基准测试

基准方法指标
few-shot-image-classification-on-caltech-256UL-Hopfield (ULH)
Accuracy: 74.7
few-shot-image-classification-on-cifar100-5UL-Hopfield (ULH)
Accuracy: 89.6
fine-grained-image-classification-on-caltechUL-Hopfield (ULH)
Accuracy: 91.00
image-classification-on-cifar-10UL-Hopfield (ULH)
Percentage correct: 83.1
semi-supervised-image-classification-on-10UL-Hopfield (ULH)
Accuracy: 77.40%
semi-supervised-image-classification-on-11UL-Hopfield (ULH)
Accuracy: 77.40%
semi-supervised-image-classification-on-8UL-Hopfield (ULH)
Accuracy: 91.00%
semi-supervised-image-classification-on-9UL-Hopfield (ULH)
Accuracy: 91.00%
semi-supervised-image-classification-on-cifar-7UL-Hopfield (ULH)
Percentage error: 16.90

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
使用预训练CNN和关联记忆库的无监督学习 | 论文 | HyperAI超神经