摘要

近期在神经网络架构和训练算法方面的进展已经证明了表示学习的有效性。基于神经网络的模型生成的表示比传统模型更为优越。它们具有自动学习句子和文档分布式表示的能力。为此，我们提出了一种新颖的模型，该模型解决了先前提出的模型未能充分建模的几个问题，如记忆问题和文档结构知识的融合。我们的模型采用了一种分层结构的自注意力机制来创建句子和文档嵌入。这种架构反映了文档的层次结构，从而使得我们能够获得更好的特征表示。注意力机制为摘要提取提供了额外的信息来源。新模型将摘要任务视为一个分类问题，其中模型计算每个句子属于摘要的概率。模型预测结果由多个特征分解而成，包括信息含量、显著性、新颖性和位置表示。所提出的模型在两个知名数据集上进行了评估：CNN/Daily Mail 和 DUC 2002。实验结果显示，我们的模型在提取式摘要任务上显著优于当前最先进的方法。