4 个月前

使用具有潜在主题聚类的层次递归编码器学习排序问题-答案对

使用具有潜在主题聚类的层次递归编码器学习排序问题-答案对

摘要

在本文中,我们提出了一种新颖的端到端神经架构,用于对候选答案进行排序,该架构结合了层次递归神经网络和潜在主题聚类模块。通过我们提出的模型,文本从词级到块级被编码为向量表示,从而有效地捕捉整个意义。特别是,通过采用层次结构,我们的模型在处理较长文本时表现出很小的性能下降,而其他最先进的递归神经网络模型则会受到较大影响。此外,潜在主题聚类模块从目标样本中提取语义信息。该聚类模块对于任何与文本相关的任务都非常有用,因为它允许每个数据样本找到其最近的主题簇,从而帮助神经网络模型分析整个数据集。我们在 Ubuntu 对话语料库和与三星产品相关的消费电子领域问答数据集上评估了我们的模型。实验结果表明,所提出的模型在排名问题-答案对方面达到了当前最佳水平。

基准测试

基准方法指标
answer-selection-on-ubuntu-dialogue-v1HRDE-LTC
1 in 10 R@1: 0.684
1 in 10 R@2: 0.822
1 in 10 R@5: 0.960
1 in 2 R@1: 0.916
answer-selection-on-ubuntu-dialogue-v2HRDE-LTC
1 in 10 R@1: 0.652
1 in 10 R@2: 0.815
1 in 10 R@5: 0.966
1 in 2 R@1: 0.915

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
使用具有潜在主题聚类的层次递归编码器学习排序问题-答案对 | 论文 | HyperAI超神经