用于理解文档驱动对话的比较聚合 Transformer
计算与语言
2020-10-02 v1
摘要
作为对话外部知识的非结构化文档有助于生成信息更丰富的回复。以往研究聚焦于文档中结合对话的知识选择(KS)。然而,与当前对话无关的历史对话可能在 KS 处理中引入噪声。本文中,我们提出一种比较聚合 Transformer(CAT),以联合去噪对话上下文并聚合文档信息用于回复生成。我们设计了两种不同的比较机制以减少噪声(解码前与解码中)。此外,我们基于词重叠提出两个评测文档利用效率的指标。在 CMUDoG 数据集上的实验结果表明,所提出的 CAT 模型优于最先进方法与强基线。
引用
@article{arxiv.2010.00190,
title = {A Compare Aggregate Transformer for Understanding Document-grounded Dialogue},
author = {Longxuan Ma and Weinan Zhang and Runxin Sun and Ting Liu},
journal= {arXiv preprint arXiv:2010.00190},
year = {2020}
}
备注
7pages, 3 figures, 6 tables, Findings of EMNLP 2020