Neural Path Hunter：通过路径接地减少对话系统中的幻觉
计算与语言
2021-09-15 v2
摘要
由大型预训练语言模型（LM）驱动的对话系统展现出生成流畅且自然的回复的内在能力。尽管其生成性能令人印象深刻，这些模型常会生成事实错误的陈述，阻碍了其广泛采用。本文中，我们聚焦于提升神经对话系统对知识图谱（KG）所提供的已知事实的忠实度——从而减少幻觉——这一任务。我们提出 Neural Path Hunter，其遵循生成而后精炼的策略，即利用 KG 的 k-hop 子图对生成的回复进行修正。Neural Path Hunter 利用一个独立的词级事实评判器来识别可能的幻觉来源，随后由一个包含两个神经 LM 的链组成的精炼阶段，通过构建在 k-hop 子图上传播的查询信号来检索正确实体。我们提出的模型可轻松应用于任何对话生成的回复而无需重新训练模型。我们在 OpenDialKG 数据集上针对一套指标对我们的方法进行经验验证，并基于 FeQA（Durmus 等，2020）报告了对话回复忠实度相对提升 20.35%。
引用
@article{arxiv.2104.08455,
title = {Neural Path Hunter: Reducing Hallucination in Dialogue Systems via Path Grounding},
author = {Nouha Dziri and Andrea Madotto and Osmar Zaiane and Avishek Joey Bose},
journal= {arXiv preprint arXiv:2104.08455},
year = {2021}
}
备注
EMNLP 2021 18 pages