基于层次解耦自注意力的语义条件对话响应生成
计算与语言
2019-06-11 v3 人工智能
摘要
在有限领域上的语义控制神经响应生成已取得优异性能。然而，转向多领域大规模场景被证明是困难的，因为语义输入的可能组合随领域数量呈指数增长。为缓解此类可扩展性问题，我们利用对话行为（dialog acts）的结构构建多层层次图，其中每个行为表示为图上从根到叶的路径。随后，我们将此种图结构先验作为归纳偏置引入，构建层次解耦自注意力网络，其中我们将注意力头解耦以建模对话行为图上的指定节点。通过在每一层激活不同的（解耦）头，可组合地建模大量对话行为语义以控制神经响应生成。在大规模 Multi-Domain-WOZ 数据集上，我们的模型在各种自动与人工评估指标上均较基线取得显著提升。
引用
@article{arxiv.1905.12866,
title = {Semantically Conditioned Dialog Response Generation via Hierarchical Disentangled Self-Attention},
author = {Wenhu Chen and Jianshu Chen and Pengda Qin and Xifeng Yan and William Yang Wang},
journal= {arXiv preprint arXiv:1905.12866},
year = {2019}
}
备注
Accepted to ACL 2019, 9 pages long paper