4 个月前

联合优化神经响应生成的多样性和相关性

联合优化神经响应生成的多样性和相关性

摘要

尽管最近的神经对话模型展现出巨大潜力,但它们生成的回复往往平淡无奇且缺乏个性。虽然已经探索了多种方法来多样化对话模型的输出,但这些改进通常会以降低相关性为代价。本文提出了一种SpaceFusion模型,通过利用新颖的正则化项,将序列到序列模型和自编码器模型的潜在空间进行融合,从而联合优化多样性和相关性。因此,我们的方法诱导出一个潜在空间,在该空间中,从预测响应向量的距离大致对应相关性,而方向则大致对应多样性。这一特性还使得潜在空间的可视化更加直观。自动评估和人工评估结果均表明,与强大的基线方法相比,所提出的模型在多样性和相关性方面带来了显著的改进。

基准测试

基准方法指标
dialogue-generation-on-reddit-multi-refSpaceFusion
interest (human): 2.53
relevance (human): 2.72

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
联合优化神经响应生成的多样性和相关性 | 论文 | HyperAI超神经