4 个月前

基于深度话语聚合的多轮对话建模

基于深度话语聚合的多轮对话建模

摘要

多轮对话理解是构建智能对话系统的主要挑战之一。本文专注于多轮对话中的检索式响应匹配问题,而以往的研究通常只是简单地将对话中的各轮发言串联起来,忽略了先前发言之间的交互对上下文建模的影响。在本文中,我们提出了一种深度发言聚合模型,将先前的发言整合为上下文,形成细粒度的上下文表示。具体而言,首先引入了自匹配注意力机制来提取每轮发言中的关键信息。然后,该模型将响应与每个经过精炼的发言进行匹配,并通过注意力加权的多轮聚合获得最终的匹配分数。实验结果表明,我们的模型在三个多轮对话基准数据集上超越了现有最先进的方法,其中包括一个新引入的电子商务对话语料库(e-commerce dialogue corpus)。

代码仓库

cooelf/DeepUtteranceAggregation
官方
GitHub 中提及

基准测试

基准方法指标
conversational-response-selection-on-douban-1DUA
MAP: 0.551
MRR: 0.599
P@1: 0.421
R10@1: 0.243
R10@2: 0.421
R10@5: 0.780
conversational-response-selection-on-eDUA
R10@1: 0.501
R10@2: 0.700
R10@5: 0.921
conversational-response-selection-on-ubuntu-1DUA
R10@1: 0.752
R10@2: 0.868
R10@5: 0.962

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于深度话语聚合的多轮对话建模 | 论文 | HyperAI超神经