3 个月前

将指令提示融入统一生成框架以实现联合多意图识别与槽位填充

将指令提示融入统一生成框架以实现联合多意图识别与槽位填充

摘要

联合多意图识别(Intent Detection, ID)与槽位填充(Slot Filling, SF)是语音语言理解领域的一项重要挑战。由于一句话中的槽位可能与多个意图相关,现有大多数方法倾向于采用任务特定的组件来捕捉意图与槽位之间的关联关系。然而,这种定制化网络结构限制了模型对任务间共性特征的建模能力,制约了其在更广泛场景下的泛化性能。为解决上述问题,本文提出一种基于提示学习范式的统一生成框架(Unified Generative framework, UGEN),并将该任务重新建模为问答形式。具体而言,我们设计了五类模板作为指导性提示(instructional prompts),每类模板包含三部分:一个引导性问题,用于驱动UGEN理解任务范式;一组候选意图或槽位选项,用于缩小答案搜索空间;以及上下文部分,表示原始话语内容。通过这些指导性提示,UGEN能够有效理解意图与槽位的语义含义及其隐含关联。在两个主流的多意图基准数据集上的实验结果表明,UGEN在全数据场景下取得了新的最先进(SOTA)性能;在5-shot(提升28.1%)和10-shot(提升23%)的少样本场景中,显著超越现有基线方法,充分验证了UGEN在少样本条件下的鲁棒性与有效性。

基准测试

基准方法指标
intent-detection-on-mixatisUGEN
Accuracy: 83.0
intent-detection-on-mixsnipsUGEN
Accuracy: 96.9
slot-filling-on-mixatisUGEN
Micro F1: 89.2
slot-filling-on-mixsnipsUGEN
Micro F1: 95.0

用 AI 构建 AI

从想法到上线——通过免费 AI 协同编程、开箱即用的环境和市场最优价格的 GPU 加速您的 AI 开发

AI 协同编程
即用型 GPU
最优价格
立即开始

Hyper Newsletters

订阅我们的最新资讯
我们会在北京时间 每周一的上午九点 向您的邮箱投递本周内的最新更新
邮件发送服务由 MailChimp 提供
将指令提示融入统一生成框架以实现联合多意图识别与槽位填充 | 论文 | HyperAI超神经