摘要

句法成分分析（Constituency Parsing）是自然语言理解中的基础且关键任务，其中对上下文信息的有效表征能够显著提升该任务的性能。N-gram作为传统上用于描述上下文信息的特征类型，在众多自然语言处理任务中已被证明具有实用性。因此，若能对N-gram信息进行恰当建模，其同样有望为句法成分分析带来收益。本文提出一种基于跨度注意力（span attention）的神经网络图表式句法成分分析方法，以有效利用N-gram信息。考虑到当前基于Transformer编码器的图表式解析器通过减去跨度两端隐藏状态来表征跨度，这一方式在处理长跨度时容易造成信息损失，本文通过根据N-gram在解析过程中的贡献程度对其进行加权，将N-gram信息融入跨度表征中。此外，我们进一步提出类别化跨度注意力（categorical span attention），对不同长度类别内的N-gram进行差异化加权，从而更有效地支持长句的句法分析。在三个广泛使用的基准数据集上的实验结果表明，所提方法在阿拉伯语、中文和英语的句法成分分析任务中均表现出色，且在所有数据集上均达到了当前最优（state-of-the-art）性能。