4 个月前

基于层次结构的对话理解:特殊标记和轮次级注意力机制

基于层次结构的对话理解:特殊标记和轮次级注意力机制

摘要

与标准文本相比,对话的理解对机器来说更具挑战性,因为每轮对话中都存在动态且不可预测的语义变化。为了建模这种不一致的语义,我们提出了一种简单但有效的层次对话理解模型——HiDialog。具体而言,我们首先在对话中插入多个特殊标记,并提出了轮次级别的注意力机制以分层学习轮次嵌入。随后,利用异构图模块来优化所学的嵌入。我们在多种对话理解任务上评估了该模型,包括对话关系抽取、对话情感识别和对话行为分类。结果表明,我们的简单方法在这三项任务上均达到了最先进的性能。我们的所有源代码已公开发布于 https://github.com/ShawX825/HiDialog。

代码仓库

shawx825/hidialog
官方
jax
GitHub 中提及

基准测试

基准方法指标
dialog-relation-extraction-on-dialogreHiDialog
F1 (v2): 77.1
F1c (v2): 68.2
emotion-recognition-in-conversation-on-meldHiDialog
Weighted-F1: 66.96

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
基于层次结构的对话理解:特殊标记和轮次级注意力机制 | 论文 | HyperAI超神经