4 个月前

直击要点:使用指针生成器网络进行摘要生成

直击要点:使用指针生成器网络进行摘要生成

摘要

神经序列到序列模型为抽象文本摘要(即不限于从原始文本中选择和重新排列段落)提供了一种可行的新方法。然而,这些模型存在两个缺点:一是容易不准确地重现事实细节,二是倾向于重复自身内容。在本研究中,我们提出了一种新颖的架构,通过两种正交方式增强标准的序列到序列注意力模型。首先,我们使用一种混合指针生成网络,该网络可以通过指针机制从源文本中复制单词,从而有助于准确地再现信息,同时保留通过生成器产生新词的能力。其次,我们利用覆盖机制来跟踪已总结的内容,这可以减少重复现象。我们将该模型应用于CNN/Daily Mail的摘要任务中,在至少2个ROUGE分数上超过了当前的抽象摘要最佳水平。

代码仓库

jiminsun/pointer-generator
pytorch
GitHub 中提及
lvyufeng/pointer_summarizer_mindspore
mindspore
GitHub 中提及
sanjeevkrn/teaser_generate
tf
GitHub 中提及
Paleontolog/pointer_summarizer
pytorch
GitHub 中提及
zide05/pointer-gen-fastnlp
pytorch
GitHub 中提及
krystalan/k-sportssum
pytorch
GitHub 中提及
WolfNiu/AdversarialDialogue
tf
GitHub 中提及
wyu97/permgen
pytorch
GitHub 中提及
abisee/cnn-dailymail
tf
GitHub 中提及
becxer/pointer-generator
tf
GitHub 中提及
abisee/pointer-generator
官方
tf
GitHub 中提及
apexmeister/PGN_pytorch_lightning
pytorch
GitHub 中提及
sblayush/summarization
tf
GitHub 中提及
atulkum/pointer_summarizer
pytorch
GitHub 中提及
Kumar-Tarun/summarization
pytorch
GitHub 中提及

基准测试

基准方法指标
abstractive-text-summarization-on-cnn-dailyPTGEN + Coverage
ROUGE-1: 39.53
ROUGE-2: 17.28
ROUGE-L: 36.38
abstractive-text-summarization-on-cnn-dailyPTGEN + Coverage
ROUGE-1: 39.53
ROUGE-2: 17.28
ROUGE-L: 36.38
abstractive-text-summarization-on-cnn-dailyPointer-Generator + Coverage
ROUGE-1: 39.53
ROUGE-2: 17.28
document-summarization-on-cnn-daily-mailLead-3
ROUGE-1: 40.34
ROUGE-2: 17.70
ROUGE-L: 36.57
extractive-document-summarization-on-cnnLead-3 baseline
ROUGE-1: 40.34
ROUGE-2: 17.70
ROUGE-L: 36.57
text-summarization-on-arxivPntr-Gen-Seq2Seq
ROUGE-1: 32.06
text-summarization-on-pubmed-1Pntr-Gen-Seq2Seq
ROUGE-1: 35.86

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
直击要点:使用指针生成器网络进行摘要生成 | 论文 | HyperAI超神经