3 个月前

基于图-序列迭代推理的AMR解析

基于图-序列迭代推理的AMR解析

摘要

我们提出一种全新的端到端模型,将AMR(抽象 meaning representation)解析视为对输入序列和逐步构建的图结构进行一系列双重决策的过程。在每个时间步,我们的模型执行多轮注意力机制、推理与组合操作,旨在回答两个核心问题:(1)从输入序列中抽象出哪一部分内容;(2)在输出图结构中的何处构建新的概念。我们证明,这两个问题的答案之间存在相互因果关系。为此,我们设计了一种基于迭代推理的模型,能够从两个视角均获得更优的决策结果,从而显著提升解析准确率。实验结果表明,我们的方法在Smatch指标上大幅超越此前所有报道的成绩。尤为突出的是,在不依赖任何大规模预训练语言模型(如BERT)的情况下,我们的模型已超越此前基于BERT的最先进方法;在引入BERT辅助后,我们在LDC2017T10(AMR 2.0)数据集上达到80.2%的Smatch得分,在LDC2014T12(AMR 1.0)数据集上达到75.4%的Smatch得分,进一步刷新了当前最优水平。

代码仓库

jcyk/AMR-gs
官方
pytorch
GitHub 中提及
ibm/graph_ensemble_learning
pytorch
GitHub 中提及
bjascob/amrlib
GitHub 中提及

基准测试

基准方法指标
amr-parsing-on-ldc2014t12-1AMR Parsing via Graph-Sequence Iterative Inference
F1 Full: 75.4
amr-parsing-on-ldc2017t10Cai and Lam
Smatch: 80.2

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于图-序列迭代推理的AMR解析 | 论文 | HyperAI超神经