基于自监督学习的对话查询重写
计算与语言
2021-02-22 v2
摘要
上下文建模在构建多轮对话系统中起着关键作用。对话查询重写(CQR)旨在通过显式将对话查询重写为自包含话语,将多轮对话建模简化为单轮问题。然而,现有方法依赖大量有监督训练数据,其标注费时费力。且从上下文中检测遗漏的重要信息仍有改进空间。此外,上下文查询与重写查询间的意图一致性约束也被忽视。为解决这些问题,我们首先提出通过自监督学习自动构建大规模 CQR 数据集,无需人工标注。随后我们引入一种基于 Transformer 的新型 CQR 模型 Teresa,其通过自注意力关键词检测与意图一致性约束得到增强。最后,我们在两个公开数据集上进行了广泛实验。实验结果表明,我们所提模型显著优于现有 CQR 基线,并证明了自监督学习在提升 CQR 性能方面的有效性。
引用
@article{arxiv.2102.04708,
title = {Conversational Query Rewriting with Self-supervised Learning},
author = {Hang Liu and Meng Chen and Youzheng Wu and Xiaodong He and Bowen Zhou},
journal= {arXiv preprint arXiv:2102.04708},
year = {2021}
}
备注
Accepted by ICASSP 2021