摘要

现代对话代理系统在训练过程中旨在模仿人类的交流方式。为了与用户建立情感联结，这些虚拟代理必须能够感知用户的情绪状态。近年来，Transformer模型已成为序列到序列学习的前沿技术，其通过使用话语-回应对中的词嵌入来训练编码器-解码器架构。本文提出一种情感感知的Transformer编码器，用于捕捉用户话语中的情感维度，从而生成类人化的共情回应。本文的主要贡献如下：1）设计了一个情感检测模块，基于输入话语在初始阶段识别用户的情绪状态；2）提出一种新型Transformer编码器，将词嵌入与情感嵌入进行融合并进行归一化处理，从而实现对输入话语语义与情感特征的联合建模；3）编码器与解码器堆叠采用Transformer-XL架构，该架构是当前语言建模领域的最先进方法。在基准数据集Facebook AI共情对话数据集上的实验结果表明，相较于现有方法，本模型生成的回应在BLEU-4指标上取得了更高得分，验证了其有效性。情感智能的虚拟代理已从理论走向现实，未来可预见的是，情感将作为重要模态被广泛融入所有人机交互界面之中。