中文

CM-Net:一种用于口语语言理解的新型协作记忆网络

计算与语言 2019-09-17 v1

摘要

口语语言理解(SLU)主要涉及意图检测和槽填充两个任务,现有工作通常将二者联合建模。然而,大多数现有模型未能充分利用槽与意图之间的共现关系,这限制了其潜在的性能。为解决此问题,本文提出一种基于精心设计的称为 CM-block 的模块构建的新型协作记忆网络(CM-Net)。CM-block 首先以协作方式从记忆中捕获槽特定和意图特定的特征,然后利用这些 enriched 特征增强局部上下文表示,基于这些表示,序列信息流导向更具体的(槽和意图)全局话语表示。通过堆叠多个 CM-block,我们的 CM-Net 能够交替地在特定记忆、局部上下文和全局话语之间进行信息交换,从而逐步相互丰富。我们在两个标准基准(ATIS 和 SNIPS)以及一个自行收集语料库(CAIS)上评估 CM-Net。实验结果表明,CM-Net 在 ATIS 和 SNIPS 的大多数指标上取得了最先进(state-of-the-art)结果,并在 CAIS 上显著优于基线模型。此外,我们公开了 CAIS 数据集以供研究社区使用。

关键词

引用

@article{arxiv.1909.06937,
  title  = {CM-Net: A Novel Collaborative Memory Network for Spoken Language Understanding},
  author = {Yijin Liu and Fandong Meng and Jinchao Zhang and Jie Zhou and Yufeng Chen and Jinan Xu},
  journal= {arXiv preprint arXiv:1909.06937},
  year   = {2019}
}

备注

Accepted as a long paper at EMNLP 2019. Code and data is available at: https://github.com/Adaxry/CM-Net