3 个月前

基于三重仿射机制融合异构因素的嵌套命名实体识别

基于三重仿射机制融合异构因素的嵌套命名实体识别

摘要

由于嵌套实体具有组合性特征,在多个领域中普遍存在,而现有的广泛使用的序列标注框架难以有效识别此类实体。一种自然的解决思路是将该任务视为跨度分类问题。为了学习更优的跨度表示并提升分类性能,关键在于有效融合多种异构因素,包括内部词元、边界信息、标签以及相关跨度等,这些因素均对嵌套实体识别具有潜在贡献。为此,我们提出一种新颖的三重仿射机制(triaffine mechanism),包含三重仿射注意力(triaffine attention)与三重仿射打分(triaffine scoring)。其中,三重仿射注意力以边界和标签作为查询(query),以内部词元和相关跨度作为键(key)与值(value),用于构建跨度表示;三重仿射打分则通过融合边界信息与跨度表示进行分类。实验结果表明,所提出的方法优于以往基于跨度的模型,在嵌套命名实体识别数据集GENIA和KBP2017上取得了当前最优的F₁分数,同时在ACE2004和ACE2005数据集上也表现出具有竞争力的性能。

代码仓库

GanjinZero/Triaffine-nested-ner
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
nested-named-entity-recognition-on-ace-2004Triaffine + ALBERT
F1: 88.56
nested-named-entity-recognition-on-ace-2004Triaffine + BioBERT
F1: 87.40
nested-named-entity-recognition-on-ace-2005Triaffine + ALBERT
F1: 88.83
nested-named-entity-recognition-on-ace-2005Triaffine + BERT
F1: 86.82
nested-named-entity-recognition-on-geniaTriaffine + BioBERT
F1: 81.23
nested-named-entity-recognition-on-tac-kbpTriaffine + ALBERT
F1: 87.27
nested-named-entity-recognition-on-tac-kbpTriaffine + BERT
F1: 85.05

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于三重仿射机制融合异构因素的嵌套命名实体识别 | 论文 | HyperAI超神经