4 个月前

通过伪监督和基于图的活动正则化在神经网络中学习潜在表示用于聚类

通过伪监督和基于图的活动正则化在神经网络中学习潜在表示用于聚类

摘要

在本文中,我们提出了一种新颖的无监督聚类方法,该方法利用通过伪分类目标间接引入的隐藏信息。具体而言,我们为每个观测值随机分配一个伪父类标签,然后通过应用与所分配标签相关的领域特定变换来修改这些标签。生成的伪观测-标签对随后用于训练具有自动聚类输出层(Auto-clustering Output Layer, ACOL)的神经网络,该输出层为每个伪父类引入多个softmax节点。由于基于图活动正则化(Graph-based Activity Regularization, GAR)项的无监督目标,每个父类的softmax副本在训练过程中逐渐专业化,因为通过领域特定变换捕获的隐藏信息在训练过程中得以传播。最终,我们获得了适合k-means聚类的潜在表示。此外,我们展示了所选择的变换类型如何影响性能,并有助于传播揭示未知聚类所需的潜在信息。我们的实验结果表明,在MNIST、SVHN和USPS数据集上的无监督聚类任务中,该方法达到了迄今为止文献中报告的最高精度。

基准测试

基准方法指标
unsupervised-image-classification-on-mnistACOL + GAR + k-means
Accuracy: 98.32
unsupervised-image-classification-on-svhnACOL-GAR
# of clusters (k): 10
Acc: 76.80

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
通过伪监督和基于图的活动正则化在神经网络中学习潜在表示用于聚类 | 论文 | HyperAI超神经