4 个月前

将联合嵌入融入多任务学习的目标导向对话中

将联合嵌入融入多任务学习的目标导向对话中

摘要

基于注意力机制的编码器-解码器神经网络模型在目标导向对话系统中最近展现出令人鼓舞的结果。然而,这些模型在推理过程中难以整合和利用状态知识,同时保持端到端的文本生成功能。鉴于此类模型可以从用户意图和知识图谱的集成中获益匪浅,本文提出了一种基于RNN的端到端编码器-解码器架构,该架构以知识图谱和语料库的联合嵌入作为输入进行训练。该模型在文本生成过程中还额外集成了用户意图,并通过多任务学习范式以及一种附加的正则化技术来惩罚生成错误实体作为输出。此外,该模型在推理阶段进一步结合了知识图谱实体查找,以确保生成的输出基于提供的本地知识图谱具有状态性。最终,我们使用BLEU分数对模型进行了评估,实证评估表明,所提出的架构可以提升任务导向对话系统的性能。

代码仓库

s6fikass/Chatbot_KVNN
官方
pytorch
GitHub 中提及

基准测试

基准方法指标
goal-oriented-dialog-on-kvretIJEEL-KVL
BLEU: 0.1831
Embedding Average: 95.5
Greedy Matching: 62.5
Vector Extrema: 97.4

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
将联合嵌入融入多任务学习的目标导向对话中 | 论文 | HyperAI超神经