Conv-CoA:基于对话行动链的大型语言模型开放域问答
计算与语言
2024-05-29 v1 人工智能
摘要
我们提出一种对话行动链(Conversational Chain-of-Action, Conv-CoA)框架,用于开放域对话问答(OCQA)。与现有文献相比,Conv-CoA 解决了三个主要挑战:(i)与实时或领域事实不一致的不可靠幻觉;(ii)在对话情景下的推理性能较弱;(iii)对话信息检索表现不满意。我们的关键贡献是一种动态推理-检索机制,从问题中提取意图并分解为通过系统性提示、预设计动作、更新情境知识集合(CKS)和一种新型 Hopfield 式检索器来求解的推理链。方法上,我们提出一种资源高效的 Hopfield 检索器,以提高对话信息检索的效率和准确性。此外,我们提出一种对话多参考忠实度得分(Conv-MRFS)来验证和解决检索知识与答案之间的冲突。经验上,我们在五个不同的研究方向和两个公开基准测试上与 23 种最先进的方法进行比较。这些比较表明,Conv-CoA 在准确率和效率维度上均优于其他方法。
关键词
引用
@article{arxiv.2405.17822,
title = {Conv-CoA: Improving Open-domain Question Answering in Large Language Models via Conversational Chain-of-Action},
author = {Zhenyu Pan and Haozheng Luo and Manling Li and Han Liu},
journal= {arXiv preprint arXiv:2405.17822},
year = {2024}
}