摘要

阅读理解问答任务近年来受到了广泛关注，然而大多数研究主要集中在事实查找型抽取式问答上。本文则关注一个更具挑战性的多步生成任务（NarrativeQA），该任务要求模型在上下文中进行推理、收集和综合分散的信息以生成答案。这种多步骤推理通常还需要理解隐含关系，而人类则是通过外部背景常识知识来解决这些问题的。我们首先提出了一种强大的生成基线模型，该模型利用多注意力机制执行多次推理，并采用指针生成器解码器来综合答案。该模型的表现显著优于之前的生成模型，并且与当前最先进的片段预测模型具有竞争力。接下来，我们介绍了一种新颖的系统，用于从ConceptNet中选择基于点互信息和词频评分函数的有根据的多步关系常识信息。最后，我们有效地利用这些提取出的常识信息来填补上下文推理步骤之间的空白，采用了一种选择性门控注意力机制。这显著提升了模型的性能（也通过人工评估得到了验证），为该任务建立了新的最先进水平。此外，我们还展示了背景知识增强方法在QAngaroo-WikiHop数据集上的初步结果，表明其在另一个多步推理任务中的泛化能力有所提升。