GLTW：通过三词语言联合改进图变换器与大语言模型用于知识图谱补全
计算与语言
2025-06-02 v4 信息检索
摘要
知识图谱补全（KGC）旨在推断缺失或不完整的事实，是知识图谱中的关键任务。然而，将知识图谱的关键结构信息整合到大语言模型（LLM）中并确定性输出预测 remains 挑战。为此，我们提出了一种新方法GLTW，通过编码知识图谱的结构信息并将其与大语言模型融合来提升KGC性能。具体而言，我们引入了改进图变换器（iGT），有效地对包含局部和全局结构信息的子图进行编码，并继承语言模型的特征，无需从头训练。此外，我们开发了基于子图的多分类训练目标，将知识图谱中所有实体作为分类对象，以提升学习效率。重要的是，我们将iGT与接受知识图谱语言提示输入的大语言模型结合起来。我们的 extensive 实验表明，GLTW在各种知识图谱数据集上相较于SOTA基线实现了显著的性能提升。
引用
@article{arxiv.2502.11471,
title = {GLTW: Joint Improved Graph Transformer and LLM via Three-Word Language for Knowledge Graph Completion},
author = {Kangyang Luo and Yuzhuo Bai and Cheng Gao and Shuzheng Si and Yingli Shen and Zhu Liu and Zhitong Wang and Cunliang Kong and Wenhao Li and Yufei Huang and Ye Tian and Xuantang Xiong and Lei Han and Maosong Sun},
journal= {arXiv preprint arXiv:2502.11471},
year = {2025}
}
备注
Accepted by ACL2025(Findings)