用于意图检测和槽位填充的基于双模型的 RNN 语义框架解析模型
计算与语言
2018-12-27 v1 人工智能
机器学习
摘要
意图检测和槽位填充是构建口语语言理解(SLU)系统的两个主要任务。多个基于深度学习的模型已在这些任务上展现出良好的效果。最有效的算法基于序列到序列模型(或“编码器-解码器”模型)的结构,并使用独立模型或联合模型生成意图和语义标签。然而,以往的大多数研究要么将意图检测和槽位填充视为两个独立的并行任务,要么使用序列到序列模型同时生成语义标签和意图。这些方法大多使用一个(联合)基于神经网络(NN)的模型(包括编码器-解码器结构)来建模两个任务,因此可能无法充分利用两者之间的相互影响。在本文中,我们设计了新的基于双模型的 RNN 语义框架解析网络结构,通过使用两个相关的双向 LSTM(BLSTM)考虑它们对彼此的相互影响,来联合执行意图检测和槽位填充任务。我们带有解码器的双模型结构在基准 ATIS 数据上取得了 SOTA 结果,意图准确率提升了约 0.5%,槽位填充提升了 0.9%。
引用
@article{arxiv.1812.10235,
title = {A Bi-model based RNN Semantic Frame Parsing Model for Intent Detection and Slot Filling},
author = {Yu Wang and Yilin Shen and Hongxia Jin},
journal= {arXiv preprint arXiv:1812.10235},
year = {2018}
}
备注
5 pages, published at 2018 NAACL