摘要

利用预训练语言模型（LMs）和知识图谱（KGs）回答问题面临两个挑战：给定一个问答上下文（问题和答案选项），方法需要（i）从大规模的知识图谱中识别相关知识，以及（ii）在问答上下文和知识图谱之间进行联合推理。在这项工作中，我们提出了一种新的模型——QA-GNN，该模型通过两项关键创新解决了上述挑战：（i）相关性评分，即使用语言模型估计知识图谱节点相对于给定问答上下文的重要性；以及（ii）联合推理，即将问答上下文和知识图谱连接形成一个联合图，并通过图神经网络相互更新它们的表示。我们在常识领域（CommonsenseQA、OpenBookQA）和生物医学领域（MedQA-USMLE）的问答基准数据集上评估了我们的模型。实验结果表明，QA-GNN优于现有的语言模型和语言模型加知识图谱的组合模型，并且展示了可解释性和结构化推理的能力，例如正确处理问题中的否定。注释：- QA-GNN：Question Answering Graph Neural Network- CommonsenseQA：常识问答数据集- OpenBookQA：开放书本问答数据集- MedQA-USMLE：医学问答数据集，基于美国医师执照考试（United States Medical Licensing Examination, USMLE）- 图神经网络（Graph Neural Networks, GNNs）：一种用于处理图结构数据的神经网络模型