非自回归对话状态跟踪
计算与语言
2020-02-25 v1 人工智能
机器学习
摘要
近期面向任务型对话的对话状态跟踪（DST）研究已转向开放词表或基于生成的方法，模型可从对话历史本身生成槽值候选。这些方法展现出良好的性能提升，尤其在具有动态槽值的复杂对话域中。然而，它们存在两方面不足：（1）不允许模型显式学习跨域与跨槽的信号以检测（域，槽）对之间的潜在依赖；（2）现有模型遵循自回归方法，当对话跨越多个域与多轮演进时产生高时间成本。在本文中，我们提出一种新颖的非自回归对话状态跟踪（NADST）框架，该框架可纳入域与槽之间的潜在依赖，将模型优化为更好地将对话状态作为一个完整集合而非分离槽进行预测。特别地，我们方法的非自回归特性不仅支持并行解码以显著降低实时对话响应生成下 DST 的延迟，还能在 token 级别之外于槽与域级别检测槽间依赖。我们的实证结果表明，我们的模型在 MultiWOZ 2.1 语料上跨所有域取得了最先进的联合准确率，且随着对话历史随时间延伸，我们的模型延迟比先前最先进水平低一个数量级。
引用
@article{arxiv.2002.08024,
title = {Non-Autoregressive Dialog State Tracking},
author = {Hung Le and Richard Socher and Steven C. H. Hoi},
journal= {arXiv preprint arXiv:2002.08024},
year = {2020}
}
备注
Accepted at ICLR 2020. International Conference on Learning Representations (2020)