摘要

我们提出了一种神经网络架构及其训练方法，旨在实现极快的训练速度和低实现复杂度。由于其训练速度快且可调参数极少，该方法在需要频繁重新训练或在线训练的应用中具有很大的潜力。该方法的特点包括：(a) 基于生物启发的视觉处理滤波器的卷积滤波器，(b) 随机值分类阶段输入权重，(c) 使用最小二乘回归在单个批次中训练分类输出权重，以及 (d) 线性分类阶段输出单元。我们通过将其应用于图像分类来验证该方法的有效性。我们的结果在 MNIST（0.37% 错误率）和 NORB-small（2.2% 错误率）图像分类数据库上达到了现有的最先进水平，但与标准深度网络方法相比，训练时间非常短。此外，该网络在 Google 街景门牌号码（SVHN）数据库上的性能（4% 错误率）也与最先进方法相当。