4 个月前

查询缩减网络在问答中的应用

查询缩减网络在问答中的应用

摘要

本文研究了在需要对多个事实进行推理时的问题回答问题。我们提出了一种查询缩减网络(Query-Reduction Network, QRN),这是循环神经网络(Recurrent Neural Network, RNN)的一种变体,能够有效处理短期(局部)和长期(全局)的序列依赖关系,从而对多个事实进行推理。QRN将上下文句子视为一系列状态变化触发器,并随着时间观察每个触发器(上下文句子),逐步将原始查询缩减为更加有信息量的查询。实验结果表明,QRN在bAbI问答和对话任务中取得了最先进的成果,并在一个真实的目标导向对话数据集中也表现优异。此外,QRN的公式允许在RNN的时间轴上进行并行化处理,从而在训练和推理过程中节省了一个数量级的时间复杂度。

代码仓库

uwnlp/qrn
官方
tf
GitHub 中提及

基准测试

基准方法指标
question-answering-on-babiQRN
Accuracy (trained on 10k): 99.7%
Accuracy (trained on 1k): 90.1%
Mean Error Rate: 0.3%

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
查询缩减网络在问答中的应用 | 论文 | HyperAI超神经