3 个月前

用于联合实体-关系抽取的密集跨模态交互建模

用于联合实体-关系抽取的密集跨模态交互建模

摘要

实体及其关系的联合抽取得益于命名实体与其关系信息之间的紧密交互。因此,如何有效建模这种跨模态交互关系,对最终性能具有关键影响。以往方法通常采用标签特征拼接等简单手段,在跨模态实例间进行粗粒度语义融合,但难以捕捉词元(token)空间与标签空间之间的细粒度相关性,导致交互能力不足。本文提出一种深度跨模态注意力网络(Deep Cross-Modal Attention Network, CMAN),用于联合实体与关系抽取。该网络通过深度堆叠多个注意力单元,充分建模词元-标签空间中的密集交互关系,其中设计了两种基础注意力单元,能够显式捕捉不同模态间的细粒度关联(如词元到词元、标签到词元之间的交互)。在CoNLL04数据集上的实验结果表明,本模型在实体识别任务上达到90.62%的F1值,在关系分类任务上达到72.97%的F1值,达到当前最优水平。在ADE数据集上,本模型在关系分类任务上的F1值较现有方法提升超过1.9%。大量消融分析进一步验证了所提方法的有效性。

基准测试

基准方法指标
relation-extraction-on-ade-corpusCMAN
NER Macro F1: 89.40
RE+ Macro F1: 81.14

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于联合实体-关系抽取的密集跨模态交互建模 | 论文 | HyperAI超神经