
摘要
我们介绍了一种简单而有效的方法,用于正则化大型卷积神经网络。该方法将传统的确定性池化操作替换为随机过程,即在每个池化区域内根据多项分布(由池化区域内的活动值决定)随机选择激活值。此方法无需设置超参数,并且可以与其他正则化方法(如丢弃法和数据增强)结合使用。在四个图像数据集上,我们的方法在不使用数据增强的情况下达到了当前最佳性能。
代码仓库
szagoruyko/imagine-nn
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| image-classification-on-cifar-10 | Stochastic Pooling | Percentage correct: 84.9 |
| image-classification-on-cifar-100 | Stochastic Pooling | Percentage correct: 57.5 |
| image-classification-on-svhn | Stochastic Pooling | Percentage error: 2.8 |