
摘要
本文提出了一种新颖的自适应连接神经网络(ACNet),旨在从两个方面改进传统的卷积神经网络(CNN)。首先,ACNet采用灵活的方式在处理内部特征表示时切换全局和局部推理,通过自适应确定特征节点(例如特征图中的像素)之间的连接状态\footnote{在计算机视觉领域,节点指的是特征图中的一个像素;而在图论领域,节点则表示图中的一个节点。}。我们证明了现有的CNN、经典的多层感知机(MLP)以及最近提出的非局部网络(NLN)\cite{nonlocalnn17}都是ACNet的特例。其次,ACNet还能够处理非欧几里得数据。广泛的实验分析(包括ImageNet-1k分类、COCO 2017检测和分割、CUHK03行人重识别、CIFAR分析以及Cora文档分类等多个基准测试)表明,ACNet不仅能够实现最先进的性能,还能克服传统MLP和CNN的局限性\footnote{通讯作者:林亮(linliang@ieee.org)}。代码可在\url{https://github.com/wanggrun/Adaptively-Connected-Neural-Networks}获取。
代码仓库
wanggrun/Adaptively-Connected-Neural-Networks
官方
tf
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| document-classification-on-cora | ACNet | Accuracy: 83.5% |
| image-classification-on-imagenet | ACNet (ResNet-50) | Number of params: 29.38M Top 1 Accuracy: 77.5% |
| instance-segmentation-on-coco-minival | Mask R-CNN (ResNet-50, ACNet) | mask AP: 35.2 |
| object-detection-on-coco-minival | Mask R-CNN (ResNet-50, ACNet) | box AP: 39.5 |
| person-re-identification-on-cuhk03 | TriNet + Era + Reranking (ACNet, bs=32) | Rank-1: 64.8 |