历史链:利用大语言模型进行时序知识图谱补全的学习与预测
人工智能
2024-02-15 v2 计算与语言
摘要
时序知识图谱补全(TKGC)是一项复杂任务,涉及通过利用已建立的时序结构知识来预测未来时间戳上缺失的事件链接。本文旨在提供一个全面的视角,阐述如何利用大语言模型(LLMs)在时序知识图谱中进行推理的优势,并提出了一个易于迁移的流程。在图模态方面,我们强调了 LLMs 在辨别历史链中关键节点的结构信息方面的能力。至于用于推理的 LLMs 的生成模式,我们对 LLMs 中一系列固有因素引起的差异进行了详尽探索,特别关注了理解逆向逻辑的挑战。我们采用了一种参数高效微调策略,以使 LLMs 与任务要求相协调,促进对前述关键知识的学习。在几个广泛认可的数据集上进行了全面实验,结果表明我们的框架在众多流行指标上超越或持平于现有方法。此外,我们执行了大量消融实验,并与几种先进的商业 LLMs 进行了比较,以探究影响 LLMs 在结构化时序知识推理任务中性能的关键因素。
引用
@article{arxiv.2401.06072,
title = {Chain of History: Learning and Forecasting with LLMs for Temporal Knowledge Graph Completion},
author = {Ruilin Luo and Tianle Gu and Haoling Li and Junzhe Li and Zicheng Lin and Jiayi Li and Yujiu Yang},
journal= {arXiv preprint arXiv:2401.06072},
year = {2024}
}
备注
15 pages; typos corrected, references added