检索增强减少对话中的幻觉
计算与语言
2021-04-16 v1 人工智能
摘要
尽管最先进的对话模型展现出日益类人的对话能力，它们常受事实错误与知识幻觉之苦（Roller 等，2020）。在本文中，我们探索了神经检索闭环架构的使用——其近期被证明在开放域问答中有效（Lewis 等，2020b；Izacard 与 Grave，2020）——用于知识 grounded 对话，该任务因需基于复杂多轮对话上下文查询并生成对话连贯的回复而更具挑战性。我们研究了具多组件（检索器、排序器与编码器-解码器）的多类架构，旨在最大化知识性的同时保持对话能力。我们证明我们的最佳模型在两个知识 grounded 对话任务上取得了最先进性能。这些模型展现出开放域对话能力，能有效泛化至训练数据之外的场景，并且经人工评估验证，大幅减轻了最先进聊天机器人中众所周知的知识幻觉问题。
引用
@article{arxiv.2104.07567,
title = {Retrieval Augmentation Reduces Hallucination in Conversation},
author = {Kurt Shuster and Spencer Poff and Moya Chen and Douwe Kiela and Jason Weston},
journal= {arXiv preprint arXiv:2104.07567},
year = {2021}
}