良好的开端是成功的一半:面向知识 grounded 对话的生成器无关知识预选
计算与语言
2023-10-23 v3
摘要
准确的知识选择在有知识支撑的对话系统中至关重要。为更深入地审视该问题,我们提出了一种组织现有文献的新视角,即知识选择与生成耦合、生成后选择以及生成前选择。我们聚焦于第三类尚未充分研究的类别,其不仅能提前准确地选择知识,还具有减轻后续响应生成模型(尤其是 LLM)的学习、调整和解释负担的优势。我们提出 GATE,一种生成器无关的知识选择方法,通过在不同知识结构和可变知识需求中筛选上下文相关知识,为后续响应生成模型准备知识。实验结果证明了 GATE 的优越性,并表明生成前知识选择是一种轻量且有效的方式,可助力 LLM(如 ChatGPT)生成信息更丰富的响应。
引用
@article{arxiv.2310.07659,
title = {Well Begun is Half Done: Generator-agnostic Knowledge Pre-Selection for Knowledge-Grounded Dialogue},
author = {Lang Qin and Yao Zhang and Hongru Liang and Jun Wang and Zhenglu Yang},
journal= {arXiv preprint arXiv:2310.07659},
year = {2023}
}
备注
Accepted by EMNLP2023 main conference