CuriousLLM:利用LLM增强的知识图谱推理提升多文档问答
计算与语言
2025-02-19 v3 人工智能
信息检索
机器学习
摘要
大型语言模型(LLMs)在开放域问答中取得了显著成功。然而,它们仍面临幻觉和知识截止等挑战。通过在生成答案前为LLMs提供相关上下文,即上下文学习,可以缓解这些问题。近期文献提出了知识图谱提示(KGP),该方法将知识图谱与基于LLM的遍历智能体相结合,以大幅提升文档检索质量。然而,KGP需要使用大型数据集进行昂贵的微调,并且仍然容易产生幻觉。在本文中,我们提出了CuriousLLM,这是一种将好奇心驱动的推理机制集成到LLM智能体中的增强方法。该机制使智能体能够生成相关的后续问题,从而更有效地引导信息检索过程。我们方法的核心是开发了新的Follow-upQA数据集,该数据集包含作为输入的问题和支持证据,并以后续问题作为真实标签。这些后续问题要么询问要完全回答用户查询仍缺少什么信息,要么使用特殊标记表示检索到的证据已足够。我们的实验表明,CuriousLLM显著提升了LLM在多文档问答(MD-QA)中的性能,同时规避了原始KGP框架带来的巨大计算成本和延迟。
引用
@article{arxiv.2404.09077,
title = {CuriousLLM: Elevating Multi-Document Question Answering with LLM-Enhanced Knowledge Graph Reasoning},
author = {Zukang Yang and Zixuan Zhu and Xuan Zhu},
journal= {arXiv preprint arXiv:2404.09077},
year = {2025}
}
备注
Accepted for publication in NAACL 2025. The official version will be available in the ACL Anthology