中文

一种范围敏感与结果注意力相结合的多意图口语理解模型

计算与语言 2022-11-23 v1 声音 音频与语音处理

摘要

多意图口语理解(SLU)作为 SLU 的新颖且更复杂的场景,正吸引越来越多的关注。与传统 SLU 不同,该场景中每个意图有其特定范围。范围之外的语义信息甚至会阻碍预测,极大增加了意图检测难度。更严重的是,以这些不准确意图标签引导槽填充会遭受错误传播问题,导致整体性能不佳。为解决这些挑战,本文提出一种基于 Transformer 的范围敏感结果注意力网络(SSRAN),包含范围识别器(SR)与结果注意力网络(RAN)。范围识别器为每个词元分配范围信息,减少范围外词元的干扰。结果注意力网络有效利用槽填充与意图检测结果间的双向交互,缓解错误传播问题。在两个公开数据集上的实验表明,我们的模型相较最先进基线显著提升了 SLU 性能(整体准确率提升 5.4% 与 2.1%)。

关键词

引用

@article{arxiv.2211.12220,
  title  = {A Scope Sensitive and Result Attentive Model for Multi-Intent Spoken Language Understanding},
  author = {Lizhi Cheng and Wenmian Yang and Weijia Jia},
  journal= {arXiv preprint arXiv:2211.12220},
  year   = {2022}
}