基于统一知识表示的知识 grounded 对话生成

由于缺乏训练数据和知识来源异构，知识grounded对话系统难以构建。现有系统在未见主题上表现不佳，因为训练数据覆盖的主题有限。此外，异构知识来源使系统难以泛化到其他任务，因为不同知识表示中的知识来源需要不同的知识编码器。为应对这些挑战，我们提出PLUG，一种将不同知识来源同质化为统一知识表示以用于知识grounded对话生成任务的语言模型。PLUG在基于统一本质知识表示的对话生成任务上进行了预训练。它可用少量训练样本泛化到不同的下游知识grounded对话生成任务。在两个基准上的实证评估表明，我们的模型在不同知识grounded任务间具有良好的泛化能力。在完全监督设定下，它能取得与最先进方法相当的性能，并在零样本和少样本设定下显著优于其他方法。