
摘要
意图检测和槽填充是构建语音语言理解(SLU)系统的主要任务。这两个任务紧密相关,槽位通常高度依赖于意图。在本文中,我们提出了一种新颖的SLU框架,以更好地融合意图信息,从而进一步指导槽填充。在我们的框架中,采用了带有堆栈传播(Stack-Propagation)的联合模型,可以直接将意图信息作为输入用于槽填充,从而捕捉意图的语义知识。此外,为了进一步缓解错误传播,我们在堆栈传播框架中执行了词元级别的意图检测。在两个公开数据集上的实验表明,我们的模型达到了最先进的性能,并且大幅超过了其他先前的方法。最后,我们在框架中使用了双向Transformer编码器表示(BERT)模型,这进一步提升了我们在SLU任务中的表现。
代码仓库
MetaronWang/StackPropagation-SLU-TF
tf
GitHub 中提及
LeePleased/StackPropagation-SLU
官方
pytorch
基准测试
| 基准 | 方法 | 指标 |
|---|---|---|
| intent-detection-on-atis | Stack-Propagation (+BERT) | Accuracy: 97.50 |
| intent-detection-on-snips | Stack-Propagation (+BERT) | Accuracy: 99.0 |
| intent-detection-on-snips | Stack-Propagation | Accuracy: 98.00 |
| slot-filling-on-atis | Stack-Propagation (+BERT) | F1: 0.9610 |
| slot-filling-on-snips | Stack-Propagation (+BERT) | F1: 97.00 |
| slot-filling-on-snips | Stack-Propagation | F1: 94.20 |