面向多文档问答的知识图谱提示方法
计算与语言
2023-12-27 v3 人工智能
信息检索
机器学习
摘要
大语言模型（LLMs）的“预训练、提示、预测”范式在开放域问答（OD-QA）中取得了显著成功。然而，很少有工作在该范式下探索多文档问答（MD-QA）场景，该任务要求对不同文档的内容与结构之间的逻辑关联有透彻理解。为填补这一关键空白，我们提出一种知识图谱提示（KGP）方法，用于在提示 LLMs 进行 MD-QA 时构建恰当的上下文，该方法由一个图构建模块和一个图遍历模块组成。对于图构建，我们在多个文档上创建知识图谱（KG），其中节点表示段落或文档结构（如页面/表格），边表示段落间的语义/词汇相似度或文档内结构关系。对于图遍历，我们设计了一个基于 LLM 的图遍历智能体，在节点间导航并收集辅助 LLMs 进行 MD-QA 的支撑段落。所构建的图谱作为调节段落间过渡空间并降低检索延迟的全局标尺。同时，图遍历智能体充当局部导航器，收集相关上下文以逐步逼近问题并保证检索质量。大量实验凸显了 KGP 在 MD-QA 中的有效性，标志着利用图谱增强 LLMs 提示设计的潜力。我们的代码：https://github.com/YuWVandy/KG-LLM-MDQA。
引用
@article{arxiv.2308.11730,
title = {Knowledge Graph Prompting for Multi-Document Question Answering},
author = {Yu Wang and Nedim Lipka and Ryan A. Rossi and Alexa Siu and Ruiyi Zhang and Tyler Derr},
journal= {arXiv preprint arXiv:2308.11730},
year = {2023}
}