4 个月前

缩小时间步长:利用脉冲神经网络实现低延迟的类脑物体识别

缩小时间步长:利用脉冲神经网络实现低延迟的类脑物体识别

摘要

基于脉冲神经网络(SNNs)的类脑物体识别是低功耗类脑计算的核心。然而,现有的SNNs在识别类脑物体时存在显著的延迟问题,通常需要10到40个时间步或更多。在低延迟情况下,现有SNNs的性能会大幅下降。在这项工作中,我们提出了一种缩放脉冲神经网络(Shrinking SNN, SSNN),以实现在不降低性能的前提下进行低延迟的类脑物体识别。具体而言,我们通过将SNNs划分为多个阶段并逐步减少时间步来缓解其时间冗余问题,从而显著降低了推理延迟。在时间步缩放过程中,时间变换器平滑地转换时间尺度,并最大限度地保留了信息。此外,我们在训练过程中为SNN添加了多个早期分类器,以减轻代理梯度与真实梯度之间的不匹配以及梯度消失/爆炸的问题,从而消除了低延迟下的性能下降。在类脑数据集CIFAR10-DVS、N-Caltech101和DVS-Gesture上的大量实验表明,SSNN能够将基线准确率提高6.55%至21.41%。仅使用5个平均时间步且没有任何数据增强的情况下,SSNN在CIFAR10-DVS上实现了73.63%的准确率。这项工作展示了异构时间尺度的SNN,并为高性能、低延迟SNN的发展提供了宝贵的见解。

基准测试

基准方法指标
event-data-classification-on-dvs128-gestureSSNN
Accuracy (% ): 94.91
object-recognition-on-cifar10-dvsSSNN
Accuracy (% ): 78.57
object-recognition-on-dvs128-gestureSSNN
Accuracy (% ): 94.91
object-recognition-on-n-caltech-101SSNN
Accuracy (% ): 79.25

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
缩小时间步长:利用脉冲神经网络实现低延迟的类脑物体识别 | 论文 | HyperAI超神经