3 个月前

GrapeQA:基于图增强与剪枝的问答性能提升方法

GrapeQA:基于图增强与剪枝的问答性能提升方法

摘要

常识性问答(QA)方法结合了预训练语言模型(LM)的强大能力与知识图谱(KG)所提供的推理优势。典型的实现方式是从知识图谱中提取与问答对相关联的节点,构建一个工作图(Working Graph, WG),随后利用图神经网络(GNN)进行推理。然而,该方法面临两大挑战:(i)难以在工作图中完整捕捉问答对中的全部信息;(ii)工作图中可能包含来自知识图谱的无关节点。为应对上述问题,我们提出了GrapeQA,通过在工作图上引入两项简单但有效的改进:(i)显著实体增强图结构(Prominent Entities for Graph Augmentation):识别问答对中的关键文本片段,并将其对应的语言模型潜在表示注入工作图,以增强语义信息;(ii)上下文感知节点剪枝(Context-Aware Node Pruning):移除与问答对关联性较弱的节点,从而提升图结构的相关性与效率。我们在OpenBookQA、CommonsenseQA以及MedQA-USMLE三个基准数据集上进行了评估,结果表明,GrapeQA在性能上持续优于其前代方法(尤其是LM + KG结合的QA-GNN),并在OpenBookQA上取得了显著提升。

基准测试

基准方法指标
common-sense-reasoning-on-commonsenseqaGrapeQA: PEGA
Accuracy: 73.5
question-answering-on-medqa-usmleGrapeQA: PEGA
Accuracy: 39.51
question-answering-on-openbookqaGrapeQA: PEGA+CANP
Accuracy: 90
question-answering-on-openbookqaGrapeQA: PEGA
Accuracy: 82
question-answering-on-openbookqaGrapeQA: CANP
Accuracy: 66.2

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
GrapeQA:基于图增强与剪枝的问答性能提升方法 | 论文 | HyperAI超神经