中文

基于对话知识迁移网络的数据高效型面向目标对话

计算与语言 2019-10-04 v1

摘要

面向目标的对话系统目前正被工业界广泛采用,维持新产品与新领域的快速原型开发周期至关重要。数据驱动的对话系统开发必须做出调整以满足这一需求——因此,减少训练此类系统所需的数据与标注量是一个核心研究问题。在本文中,我们提出对话知识迁移网络(DiKTNet),一种最先进的面向目标对话生成方法,其仅使用少量示例对话(即少样本学习),且无需任何标注。我们通过执行两阶段训练实现这一点。首先,我们在多领域大规模面向目标对话源——MetaLWOz语料库上执行无监督对话表示预训练。其次,在迁移阶段,我们利用该表示与另外两种具有不同泛化程度的文本知识源共同训练DiKTNet:ELMo编码器和主数据集的源领域。我们的主数据集是Stanford Multi-Domain对话语料库。我们在该数据集上依据BLEU和Entity F1分数评估我们的模型,并表明我们的方法相比一系列基线模型以及先前的state-of-the-art对话生成模型ZSDG均有显著且一致的提升。相对于后者——Entity F1最高提升10%、BLEU分数平均提升3%——仅使用了相当于ZSDG领域内训练数据10%的数据量即达成。

关键词

引用

@article{arxiv.1910.01302,
  title  = {Data-Efficient Goal-Oriented Conversation with Dialogue Knowledge Transfer Networks},
  author = {Igor Shalyminov and Sungjin Lee and Arash Eshghi and Oliver Lemon},
  journal= {arXiv preprint arXiv:1910.01302},
  year   = {2019}
}

备注

EMNLP 2019