MA-DST:基于多注意力的可扩展对话状态跟踪
计算与语言
2020-02-21 v1 人工智能
机器学习
机器学习
摘要
面向任务的对话智能体为用户提供自然语言接口以完成其目标。对话状态跟踪(DST)常作为这些系统的核心组件,在整段对话中跟踪系统对用户目标的理解。为实现准确的多领域 DST,模型需要对过往话语与槽语义之间的依赖关系进行编码,并理解对话上下文,包括长程跨领域指代。我们为该项任务引入一种新颖架构,通过在多粒度上使用注意力机制,更鲁棒地编码对话历史与槽语义。具体而言,我们使用交叉注意力在不同语义层次上建模上下文与槽之间的关系,并使用自注意力消解跨领域共指。此外,我们提出的架构不依赖于事先知晓领域本体,也可用于新领域或未见槽值的零样本设定。在 MultiWoZ 2.1 数据集上,我们的模型在全数据设定下将联合目标准确率较当前最优提升了 5%(绝对),在零样本设定下最高提升 2%(绝对)。
引用
@article{arxiv.2002.08898,
title = {MA-DST: Multi-Attention Based Scalable Dialog State Tracking},
author = {Adarsh Kumar and Peter Ku and Anuj Kumar Goyal and Angeliki Metallinou and Dilek Hakkani-Tur},
journal= {arXiv preprint arXiv:2002.08898},
year = {2020}
}
备注
Thirty-Fourth AAAI Conference on Artificial Intelligence (AAAI 2020)