4 个月前

Inception-v4、Inception-ResNet 以及残差连接对学习的影响

Inception-v4、Inception-ResNet 以及残差连接对学习的影响

摘要

近年来,深度卷积网络在图像识别性能方面取得了最大的进展。一个例子是Inception架构,该架构已被证明能够在相对较低的计算成本下实现非常出色的性能。最近,残差连接与传统架构结合的引入,在2015年ILSVRC挑战赛中达到了当时最佳的性能;其表现与最新的Inception-v3网络相似。这引发了关于将Inception架构与残差连接相结合是否具有任何优势的问题。在这里,我们提供了明确的实证证据,表明使用残差连接训练Inception网络可以显著加速其训练过程。此外,还有一些证据表明,带有残差连接的Inception网络在性能上略微优于没有残差连接的类似成本的Inception网络。我们还提出了一些新的简化架构,适用于带残差连接和不带残差连接的Inception网络。这些变体显著提高了在ILSVRC 2012分类任务中的单帧识别性能。我们进一步展示了适当的激活缩放如何稳定非常宽的残差Inception网络的训练过程。通过组合三个残差网络和一个Inception-v4网络,我们在ImageNet分类(CLS)挑战赛测试集上实现了3.08%的前五错误率。

代码仓库

Mariya1285/Codeathon
tf
GitHub 中提及
32shivang/Blind-Eye
tf
GitHub 中提及
rickyHong/JPEG-Defense-repl
tf
GitHub 中提及
khazit/Lip2Word
tf
GitHub 中提及
yang-neu/FaceRec
tf
GitHub 中提及
xlsarath/Face-Recognition
tf
GitHub 中提及
0jason000/Inception_V4
mindspore
GitHub 中提及
nknytk/ml-study
GitHub 中提及
Dhruvpatel2112/Dhruv-Patel
tf
GitHub 中提及
Mind23-2/MindCode-54
mindspore
GitHub 中提及
kobiso/CBAM-tensorflow-slim
tf
GitHub 中提及
yangyucheng000/ascend_inceptionv4
mindspore
GitHub 中提及
khazit/LipNet
tf
GitHub 中提及
tensorflow/models
tf
GitHub 中提及
poloclub/jpeg-defense
tf
GitHub 中提及
IMvision12/keras-vision-models
pytorch
GitHub 中提及
skaldek/InceptionResNetV2
tf
GitHub 中提及
zjZSTU/GoogLeNet
pytorch
GitHub 中提及
vudung45/FaceRec
tf
GitHub 中提及
kobiso/CBAM-tensorflow
tf
GitHub 中提及
yangyucheng000/inceptionv4
mindspore
GitHub 中提及
Liuyubao/transfer-learning
tf
GitHub 中提及
systemcorp-ai/InceptionV4
tf
GitHub 中提及
Wenzhima66/readme
pytorch
GitHub 中提及
kingcong/gpu_inceptionv4
mindspore
GitHub 中提及
2023-MindSpore-1/ms-code-204
mindspore
GitHub 中提及
lyc760214/ML_DL
GitHub 中提及
titu1994/inception-v4
GitHub 中提及
hujinxinb/face_detect
tf
GitHub 中提及
92coorob/facerec2
tf
GitHub 中提及

基准测试

基准方法指标
classification-on-indlInception ResNet V2
Average Recall: 90.27%
image-classification-on-imagenetInception ResNet V2
Number of params: 55.8M
Top 1 Accuracy: 80.1%
image-classification-on-omnibenchmarkInceptionV4
Average Top-1 Accuracy: 32.3

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
Inception-v4、Inception-ResNet 以及残差连接对学习的影响 | 论文 | HyperAI超神经