用于链接预测的知识图谱大语言模型 (KG-LLM)
计算与语言
2025-06-17 v9 机器学习
摘要
知识图谱 (KG) 内的多跳链接预测任务是知识图谱分析领域的一项挑战,因为它要求模型在进行预测之前推理并理解所有中间连接。在本文中,我们介绍了知识图谱大语言模型 (KG-LLM),这是一种利用大语言模型 (LLM) 进行知识图谱任务的新颖框架。我们首先将结构化的知识图谱数据转换为自然语言,然后利用这些自然语言提示微调 LLM,以增强 KG 中的多跳链接预测能力。通过将 KG 转换为自然语言提示,我们的框架旨在学习实体及其相互关系的潜在表示。为了展示 KG-LLM 框架的有效性,我们在该框架内微调了三个领先的 LLM,包括 Flan-T5、LLaMa2 和 Gemma。此外,我们探索了该框架为 LLM 提供处理先前未见过的提示的零样本能力的潜力。实验结果表明,KG-LLM 显著提高了模型的泛化能力,从而在陌生场景中实现更准确的预测。
引用
@article{arxiv.2403.07311,
title = {Knowledge Graph Large Language Model (KG-LLM) for Link Prediction},
author = {Dong Shu and Tianle Chen and Mingyu Jin and Chong Zhang and Mengnan Du and Yongfeng Zhang},
journal= {arXiv preprint arXiv:2403.07311},
year = {2025}
}
备注
Accepted by ACML 2024