通过对比学习提高知识 grounding 对话的鲁棒性

知识 grounding 对话 (KGD) 学习基于给定的对话上下文和外部知识（例如知识图谱；KGs）生成信息丰富的回复。最近，大语言模型 (LLMs) 和预训练技术的出现为知识 grounding 对话带来了巨大成功。然而，在实际应用中构建 KGD 系统时，不可避免地要面对各种现实世界的噪声。例如，对话上下文可能涉及拼写错误和缩写等扰动。此外，知识图谱通常存在不完整问题，也可能包含错误和过时的事实。这些现实世界的噪声对 KGD 系统的鲁棒性构成了挑战，阻碍了其在现实世界中的应用。在本文中，我们提出了一种基于实体的对比学习框架，以提高 KGD 的鲁棒性。具体而言，我们利用 KGD 样本中的实体信息来创建其正样本和负样本，分别涉及语义无关和语义相关的扰动。该对比学习框架确保 KGD 模型能够感知这两类扰动，从而在现实应用中针对潜在的噪声输入生成信息丰富的回复。在三个基准数据集上的实验结果表明，我们的方法在自动评估分数方面达到了新的最先进水平 (SOTA)，验证了其有效性和潜力。此外，我们展示了我们的方法在噪声环境和少样本设置下均能生成比对比模型更好的回复。