4 个月前

寻找ReMO(相关记忆对象):一种用于基于文本推理的简单神经架构

寻找ReMO(相关记忆对象):一种用于基于文本推理的简单神经架构

摘要

为了解决需要关系推理的基于文本的问答任务,必须记住大量信息并从记忆中找出与问题相关的信息。大多数方法都是基于外部记忆和Memory Network提出的四个组件。其中最具特色的是寻找必要信息的方式,这对性能有重要贡献。最近,一种简单但强大的神经网络模块——关系网络(Relation Network, RN)被引入用于推理。我们从Memory Network的角度分析了RN,并意识到其多层感知机(MLP)组件能够揭示问题与对象对之间的复杂关系。受此启发,我们在Memory Network架构中引入了使用MLP来查找相关信息的方法。该方法在联合训练的bAbI-10k故事基础问答任务和bAbI对话基础问答任务中展示了最新的最佳结果。

基准测试

基准方法指标
question-answering-on-babiReMO
Mean Error Rate: 1.2%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
寻找ReMO(相关记忆对象):一种用于基于文本推理的简单神经架构 | 论文 | HyperAI超神经