释放证据在知识密集型对话生成中的潜力
计算与语言
2023-09-18 v1
摘要
将外部知识引入对话生成（KIDG）对提升回复正确性至关重要，其中证据片段作为支撑事实性对话回复的知识性片段。然而，引入无关内容常对回复质量产生负面影响，并易引发幻觉回复。已有关于对话系统中证据检索与融合的工作未能充分利用现有证据，因为模型无法准确锁定有用片段，且忽视了 KIDG 数据集中隐藏的证据标签。为充分释放证据潜力，我们提出一个在知识密集型对话生成中有效融入证据的框架（u-EIDG）。具体而言，我们引入一个自动证据生成框架，借助大语言模型（LLMs）的力量从无标注数据中挖掘可靠的证据真实性标签。利用这些证据标签，我们训练一个可靠的指示器以从检索段落中有效识别相关证据。此外，我们提出一个带证据聚焦注意力机制的证据增强生成器，使模型能集中于有证据支撑的片段。在 MultiDoc2Dial 上的实验结果证明了证据标签增强与精炼注意力机制在提升模型性能上的有效性。进一步分析确认所提方法在连贯性与事实一致性上优于其他基线（+3~+5 分）。
引用
@article{arxiv.2309.08380,
title = {Unleashing Potential of Evidence in Knowledge-Intensive Dialogue Generation},
author = {Xianjie Wu and Jian Yang and Tongliang Li and Di Liang and Shiwei Zhang and Yiyang Du and Zhoujun Li},
journal= {arXiv preprint arXiv:2309.08380},
year = {2023}
}