4 个月前

将神经问答系统简化到极致但不过度简化

将神经问答系统简化到极致但不过度简化

摘要

近期大规模问答(QA)数据集的开发引发了大量关于端到端神经架构在问答领域的研究。然而,越来越多的复杂系统被设计出来,却没有与更简单的神经基线系统进行比较以证明其复杂性的必要性。在这项工作中,我们提出了一种简单的启发式方法,用于指导提取式问答任务中神经基线系统的开发。我们发现,构建高性能神经问答系统需要两个关键要素:首先,在处理上下文时对问题词汇的敏感性;其次,超越简单词袋模型的组合函数,例如循环神经网络。我们的实验结果表明,FastQA 系统满足这两个要求,其性能与现有模型相比非常具有竞争力。我们认为这一令人惊讶的发现有助于重新审视先前系统的成果以及最近 QA 数据集的复杂性。

代码仓库

uclnlp/jack
tf
GitHub 中提及
newmast/QA-Deep-Learning
GitHub 中提及
uclmr/jack
tf
GitHub 中提及

基准测试

基准方法指标
question-answering-on-newsqaFastQAExt
EM: 43.7
F1: 56.1
question-answering-on-squad11FastQAExt
EM: 70.849
F1: 78.857
question-answering-on-squad11FastQA
EM: 68.436
F1: 77.070
question-answering-on-squad11-devFastQAExt (beam-size 5)
EM: 70.3
F1: 78.5

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
将神经问答系统简化到极致但不过度简化 | 论文 | HyperAI超神经