利用无监督事后知识注入实现对话目标
计算与语言
2022-03-23 v1
摘要
当前神经对话模型的一个局限是，由于依赖于覆盖场景有限且传达知识有限的训练数据，其生成的回复往往缺乏具体性和信息量。缓解该问题的一种方法是在解码时从外部来源提取相关知识并将其融入对话回复中。本文提出一种事后知识注入技术：我们首先基于对话历史以及现有对话模型的初始回复，检索一组多样化的相关知识片段；随后利用基于梯度的解码方法将每个检索到的片段分别注入初始回复，构建多个候选回复，并通过无监督排序步骤选出最终回复。我们在面向目标和基于知识的对话设置中的实验表明，与先前对话系统生成的回复相比，人类标注者认为所提方法的输出更具吸引力和信息量。我们进一步表明，知识增强在两种实验设置中均促进了对话目标的实现。
引用
@article{arxiv.2203.11399,
title = {Achieving Conversational Goals with Unsupervised Post-hoc Knowledge Injection},
author = {Bodhisattwa Prasad Majumder and Harsh Jhamtani and Taylor Berg-Kirkpatrick and Julian McAuley},
journal= {arXiv preprint arXiv:2203.11399},
year = {2022}
}
备注
Accepted at ACL 2022 main conference