4 个月前

密集和多样化的胶囊网络:让胶囊更好地学习

密集和多样化的胶囊网络:让胶囊更好地学习

摘要

近年来,深度学习方法的兴趣呈指数级增长,其准确率不断提高,计算复杂度也逐渐降低。特别是使用卷积神经网络(CNN)的架构在图像分类和目标识别任务中取得了最先进的性能。最近,胶囊网络(CapsNet)通过解决CNN在编码姿态和变形方面的固有限制,实现了显著的性能提升。受此进展的启发,我们不禁思考是否可以做得更好?为此,我们提出了密集胶囊网络(Dense Capsule Network, DCNet)和多样化胶囊网络(Diverse Capsule Network, DCNet++)。这两种框架通过用密集连接的卷积层替换标准卷积层来改进CapsNet,有助于将不同层学到的特征图整合到初级胶囊中。DCNet本质上增加了一个更深的卷积网络,从而促进了判别性特征图的学习。此外,DCNet++采用了一种层次结构来学习以细粒度到粗粒度方式表示空间信息的胶囊,这使得它在学习复杂数据时更加高效。使用基准数据集进行的图像分类实验验证了所提架构的有效性。DCNet在MNIST数据集上达到了最先进的性能(99.75%),并且总训练迭代次数比传统CapsNet减少了二十倍。此外,DCNet++在SVHN数据集上的表现优于CapsNet(96.90%),并在CIFAR-10数据集上以七倍减少的参数数量超越了七个CapsNet模型组成的集成模型0.31%。

代码仓库

ssrp/Multi-level-DCNet
tf
GitHub 中提及

基准测试

基准方法指标
image-classification-on-smallnorbDCNet
Classification Error: 5.57

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
密集和多样化的胶囊网络:让胶囊更好地学习 | 论文 | HyperAI超神经