使用大语言模型的两阶段时序知识图谱生成式问答
计算与语言
2024-07-25 v2
摘要
时序知识图谱问答(TKGQA)是一项具有挑战性的任务,因为问题中隐藏的时间约束以及从动态结构化知识中寻找答案。尽管大语言模型(LLM)在结构化数据上的推理能力取得了显著进展,但其在TKGQA任务中的应用仍是一个相对未探索的领域。本文首次提出了一种新颖的生成式时序知识图谱问答框架GenTKGQA,该框架通过两个阶段(子图检索和答案生成)引导LLM回答时序问题。首先,我们利用LLM的内在知识挖掘问题中的时间约束和结构链接,无需额外训练,从而在时间和结构维度上缩小子图搜索空间。接下来,我们设计虚拟知识指示器,以非浅层的方式融合子图的图神经网络信号和LLM的文本表示,这有助于开源LLM通过指令微调深入理解检索事实之间的时间顺序和结构依赖。在两个广泛使用的数据集上的实验结果证明了我们模型的优越性。
引用
@article{arxiv.2402.16568,
title = {Two-stage Generative Question Answering on Temporal Knowledge Graph Using Large Language Models},
author = {Yifu Gao and Linbo Qiao and Zhigang Kan and Zhihua Wen and Yongquan He and Dongsheng Li},
journal= {arXiv preprint arXiv:2402.16568},
year = {2024}
}
备注
Accepted by ACL(Findings) 2024