HyperAIHyperAI

Command Palette

Search for a command to run...

基于前馈脉冲神经网络的序列近似用于时空学习:理论与优化方法

Saibal Mukhopadhyay Saurabh Dash Xueyuan She

摘要

仅包含前馈连接的脉冲神经元动力系统能够对时空模式进行分类,而无需循环连接。然而,目前关于前馈脉冲神经网络(SNN)如何近似时间序列的理论框架仍不明确,这使得在学习复杂时空模式时优化SNN架构面临挑战。在本研究中,我们建立了一个理论框架,以深入理解并提升前馈SNN在序列近似方面的性能。该框架表明,仅在每层包含一个神经元并引入跨层连接(skip-layer connections)的前馈SNN,即可在紧致域上近似任意输入与输出脉冲序列对之间的映射函数。进一步地,我们证明了具有不同动态特性的异质神经元结合跨层连接,能够显著提升前馈SNN在序列近似方面的表现。基于上述理论发现,我们提出了一类新型SNN架构,该架构融合了异质神经元动态与跨层连接机制,并采用监督式的时间反向传播算法(backpropagation-through-time, BPTT)以及无监督的脉冲时序依赖可塑性(spiking-timing-dependent plasticity, STDP)进行训练,以实现对时空数据的有效分类。此外,我们开发了一种双搜索空间贝叶斯优化方法(Dual Search-space Bayesian Optimization),用于高效优化所提出的SNN在异质神经元动态与跨层连接条件下的网络结构与参数配置。


用 AI 构建 AI

从创意到上线——通过免费 AI 协同编码、开箱即用的环境和最优惠的 GPU 价格,加速您的 AI 开发。

AI 协同编码
开箱即用的 GPU
最优定价

HyperAI Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于前馈脉冲神经网络的序列近似用于时空学习:理论与优化方法 | 论文 | HyperAI超神经