3 个月前

H-Mem:利用赫布记忆网络实现突触可塑性

H-Mem:利用赫布记忆网络实现突触可塑性

摘要

能够基于过往记忆进行当前计算,对于故事理解等诸多认知任务至关重要。海布型(Hebbian)突触可塑性被认为在大脑中负责中长期记忆的保持。然而,这种可塑性过程如何与皮层网络中的计算机制相融合,目前尚不明确。在此,我们提出一种名为海布记忆网络(Hebbian Memory Networks, H-Mems)的简单神经网络模型,其核心是一个受海布型可塑性调控的异关联网络。我们证明,该网络可通过优化,有效利用海布型可塑性过程来支持其计算功能。H-Mems能够一次性记忆刺激对之间的关联,并在后续决策中加以利用;此外,它们还能完成对合成故事的高难度问答任务。本研究表明,仅通过简单的海布型可塑性机制,神经网络模型即可实现计算能力的增强,从而融入记忆功能。

基准测试

基准方法指标
question-answering-on-babiH-Mem
Accuracy (trained on 10k): 99.4%
Accuracy (trained on 1k): 77.1%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
H-Mem:利用赫布记忆网络实现突触可塑性 | 论文 | HyperAI超神经