3 个月前

用于释义生成的分层草图诱导

用于释义生成的分层草图诱导

摘要

我们提出了一种生成式改写(paraphrase generation)模型,该模型通过基于显式的句法草图(syntactic sketch)进行条件化,以促进句法结构的多样性。为此,我们引入了分层精炼量化变分自编码器(Hierarchical Refinement Quantized Variational Autoencoders, HRQ-VAE),这是一种将密集编码分解为一系列离散潜在变量的方法,这些变量通过逐步细化的方式实现粒度递增的迭代优化。该层级编码结构通过端到端训练自动学习,能够表征输入数据从细粒度到粗粒度的多层次信息。我们利用HRQ-VAE将输入句子的句法形式编码为层级结构中的一条路径,从而在测试阶段更高效地预测句法草图。大量实验,包括人工评估,结果表明,HRQ-VAE能够有效学习输入空间的分层表示,并生成质量优于以往系统的改写句。

代码仓库

tomhosking/hrq-vae
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
paraphrase-generation-on-mscocoHRQ-VAE
BLEU: 27.90
iBLEU: 19.04
paraphrase-generation-on-paralexHRQ-VAE
BLEU: 39.49
iBLEU: 24.93
paraphrase-generation-on-quora-question-pairs-1HRQ-VAE
BLEU: 33.11
iBLEU: 18.42

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
用于释义生成的分层草图诱导 | 论文 | HyperAI超神经