
摘要
脉冲神经网络(Spiking Neural Networks, SNNs)中,尤其是单脉冲(single-spike)变体——即神经元最多仅发放一次脉冲——相较于传统人工神经网络(Artificial Neural Networks, ANNs),具有显著更高的能效。然而,由于其动态特性及非可微性,单脉冲SNNs的训练极具挑战性,现有方法要么训练速度缓慢,要么存在训练不稳定性问题。此外,这类网络还受到批评,认为其计算适用性有限,尤其在处理时间序列数据方面表现不佳。本文提出一种新型训练框架,有效缓解了上述训练难题,并在多种图像与类脑数据集上取得了具有竞争力的性能表现,相较多脉冲SNN,训练速度最高提升达13.98倍,脉冲发放数量减少高达81%。尤为关键的是,我们的模型在处理类脑时间序列数据的复杂任务中,性能可与多脉冲SNN相媲美,表明单脉冲SNN的计算能力远超以往认知,具备更广泛的应用潜力。
代码仓库
webstorms/fastsnn
官方
pytorch
GitHub 中提及
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| audio-classification-on-shd | FastSNN | Percentage correct: 70.32 |
| image-classification-on-fashion-mnist | FastSNN (MLP) | Accuracy: 89.05 |
| image-classification-on-fashion-mnist | FastSNN (CNN) | Accuracy: 90.57 |
| image-classification-on-mnist | FastSNN (CNN) | Accuracy: 99.3 |
| image-classification-on-mnist | FastSNN (MLP) | Accuracy: 97.91 |
| image-classification-on-n-mnist | FastSNN | Accuracy: 95.91 |