三思而后言:为响应生成显式生成隐式常识知识
计算与语言
2023-09-13 v4
摘要
诸如常识等隐式知识是流畅人类对话的关键。当前的神经响应生成(RG)模型被训练为直接生成响应,省略了未陈述的隐式知识。在本文中,我们提出了 Think-Before-Speaking(TBS),这是一种生成方法,首先将隐式常识知识外化(思考),然后利用这些知识生成响应(说话)。我们期望外化隐式知识能够实现更高效的学习,产生信息量更大的响应,并使模型更具可解释性。我们分析了收集知识对齐对话、表示隐式知识以及在知识与对话之间进行转换的不同选择。实证结果表明,TBS 模型在大多数自动评估指标上优于端到端和知识增强的 RG 基线,并且根据人类标注员的评估,能够生成信息更丰富、更具体且符合常识的响应。TBS 生成的知识在大约 85% 的情况下是合理的,并且与对话相关。
引用
@article{arxiv.2110.08501,
title = {Think Before You Speak: Explicitly Generating Implicit Commonsense Knowledge for Response Generation},
author = {Pei Zhou and Karthik Gopalakrishnan and Behnam Hedayatnia and Seokhwan Kim and Jay Pujara and Xiang Ren and Yang Liu and Dilek Hakkani-Tur},
journal= {arXiv preprint arXiv:2110.08501},
year = {2023}
}
备注
Accepted at ACL 2022 main conference. 16 pages, 9 figures, 9 tables