4 个月前

自适应连接神经网络

自适应连接神经网络

摘要

本文提出了一种新颖的自适应连接神经网络(ACNet),旨在从两个方面改进传统的卷积神经网络(CNN)。首先,ACNet采用灵活的方式在处理内部特征表示时切换全局和局部推理,通过自适应确定特征节点(例如特征图中的像素)之间的连接状态\footnote{在计算机视觉领域,节点指的是特征图中的一个像素;而在图论领域,节点则表示图中的一个节点。}。我们证明了现有的CNN、经典的多层感知机(MLP)以及最近提出的非局部网络(NLN)\cite{nonlocalnn17}都是ACNet的特例。其次,ACNet还能够处理非欧几里得数据。广泛的实验分析(包括ImageNet-1k分类、COCO 2017检测和分割、CUHK03行人重识别、CIFAR分析以及Cora文档分类等多个基准测试)表明,ACNet不仅能够实现最先进的性能,还能克服传统MLP和CNN的局限性\footnote{通讯作者:林亮(linliang@ieee.org)}。代码可在\url{https://github.com/wanggrun/Adaptively-Connected-Neural-Networks}获取。

代码仓库

基准测试

基准方法指标
document-classification-on-coraACNet
Accuracy: 83.5%
image-classification-on-imagenetACNet (ResNet-50)
Number of params: 29.38M
Top 1 Accuracy: 77.5%
instance-segmentation-on-coco-minivalMask R-CNN (ResNet-50, ACNet)
mask AP: 35.2
object-detection-on-coco-minivalMask R-CNN (ResNet-50, ACNet)
box AP: 39.5
person-re-identification-on-cuhk03TriNet + Era + Reranking (ACNet, bs=32)
Rank-1: 64.8

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
自适应连接神经网络 | 论文 | HyperAI超神经