3 个月前

基于DG-SpanBERT的高效长距离关系抽取

基于DG-SpanBERT的高效长距离关系抽取

摘要

在自然语言处理领域,关系抽取旨在理性理解非结构化文本。本文提出一种基于SpanBERT的新型图卷积网络模型(DG-SpanBERT),该模型利用预训练语言模型SpanBERT从原始句子中提取语义特征,并结合图卷积网络(GCN)对潜在特征进行聚合。所提出的DG-SpanBERT模型继承了SpanBERT在大规模语料库上学习丰富词汇特征的优势,同时由于在依存句法树上引入图卷积网络,具备捕捉实体间长距离依赖关系的能力。实验结果表明,该模型在性能上优于现有的基于依存关系和基于序列的各类模型,并在TACRED数据集上达到了当前最优(state-of-the-art)水平。

基准测试

基准方法指标
relation-extraction-on-tacredDG-SpanBERT-large
F1: 71.5

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于DG-SpanBERT的高效长距离关系抽取 | 论文 | HyperAI超神经