缓解知识 grounded 对话生成幻觉的因果效应分析

在大规模预训练语言模型的赋能下，现有的对话系统在生成流畅且自然的对话方面展现出了令人瞩目的性能。然而，它们仍受幻觉问题的困扰，导致生成的回复中出现不可预测的事实错误。近期，知识 grounded 对话生成模型通过有意调用外部知识资源来生成信息更丰富的回复，也被证明能有效减少幻觉。基于获取高质量知识的思路，已有部分工作在该问题上取得了相当不错的性能。由于一些不可避免的知识噪声也可能导致幻觉，因此研究 KGD 任务中构建容噪方法的原因与未来方向显得尤为迫切。本文利用反事实推理方法分析了该问题背后的因果机制。基于因果效应分析，我们通过利用对话-知识交互提出了一种缓解 KGD 中幻觉问题的可能解决方案。我们的示例实现的实验结果表明，该方法能够在不破坏其他对话性能的前提下减少幻觉，同时对不同的生成模型保持自适应性。我们希望本研究能够支持并呼吁更多人关注开发轻量级技术，以构建稳健且可信的对话系统。