SlotRefine:一种用于意图检测与槽填充联合任务的快速非自回归模型
计算与语言
2020-11-03 v2 人工智能
机器学习
摘要
槽填充与意图检测是口语理解(SLU)系统中的两项主要任务。本文提出一种名为 SlotRefine 的新型非自回归模型,用于意图检测与槽填充的联合任务。此外,我们设计了一种新颖的两遍迭代机制,以处理由非自回归模型条件独立性引起的槽位不协调问题。实验表明,我们的模型在槽填充任务上显著优于先前模型,同时将解码速度大幅提升(最高达 10.77 倍)。深入分析显示:1)预训练方案可进一步增强我们的模型;2)两遍机制确实补救了槽位不协调问题。
引用
@article{arxiv.2010.02693,
title = {SlotRefine: A Fast Non-Autoregressive Model for Joint Intent Detection and Slot Filling},
author = {Di Wu and Liang Ding and Fan Lu and Jian Xie},
journal= {arXiv preprint arXiv:2010.02693},
year = {2020}
}
备注
To appear in the the main conference of EMNLP 2020