4 个月前

快速抽象概括与强化选择句子重写

快速抽象概括与强化选择句子重写

摘要

受人类总结长篇文档方式的启发,我们提出了一种准确且快速的摘要生成模型,该模型首先选择关键句子,然后以抽象的方式(即压缩和改写)重写这些句子,从而生成简洁的整体摘要。我们采用了一种新颖的句级策略梯度方法,在这两个神经网络之间建立层次化的非可微计算桥梁,同时保持语言的流畅性。实证结果显示,我们在CNN/Daily Mail数据集的所有指标上(包括人工评估)达到了新的最先进水平,并且显著提高了抽象性得分。此外,通过先在句级再在词级进行操作,我们实现了神经生成模型的并行解码,这使得推理速度比之前的长段落编码器-解码器模型快10-20倍,并且训练收敛速度也快了4倍。我们还在仅用于测试的DUC-2002数据集上展示了模型的泛化能力,在该数据集上我们的得分高于最先进的模型。

代码仓库

yunzhusong/AAAI20-PORLHG
pytorch
GitHub 中提及
johnnyb1509/2020_VBDI_DL
tf
GitHub 中提及
ChenRocks/fast_abs_rl
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
abstractive-text-summarization-on-cnn-dailyrnn-ext + abs + RL + rerank
ROUGE-1: 40.88
ROUGE-2: 17.80
ROUGE-L: 38.54
abstractive-text-summarization-on-cnn-dailyrnn-ext + RL
ROUGE-1: 41.47
ROUGE-2: 18.72
ROUGE-L: 37.76
text-summarization-on-cnn-daily-mail-2rnn-ext + abs + RL + rerank
ROUGE-1: 39.66
ROUGE-2: 15.85
ROUGE-L: 37.34

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
快速抽象概括与强化选择句子重写 | 论文 | HyperAI超神经