G2S:基于大语言模型的时序知识图谱预测从一般到具体学习框架
计算与语言
2025-06-03 v1
摘要
基于历史事实预测未来事实的时序知识图谱(TKG)预测受到了广泛关注。近期研究引入了大语言模型(LLM)来执行此任务,以增强模型的泛化能力。然而,这些模型在 TKG 中通过同时学习两种纠缠的知识来进行预测:(1)一般模式,即在不同场景间共享的不变时间结构;(2)场景信息,即特定场景中涉及的事实知识,如实体和关系。因此,这两种知识的学习过程可能相互干扰,从而潜在地影响模型的泛化能力。为了增强 LLM 在此任务上的泛化能力,本文提出了一种从一般到具体的学习框架(G2S),解耦了上述两种知识的学习过程。在一般学习阶段,我们掩码不同 TKG 中的场景信息,并将其转换为匿名时间结构。在这些结构上训练后,模型能够捕获不同 TKG 间的一般模式。在具体学习阶段,我们通过上下文学习或微调模式将场景信息注入结构中。实验结果表明,G2S 有效提升了 LLM 的泛化能力。
引用
@article{arxiv.2506.00445,
title = {G2S: A General-to-Specific Learning Framework for Temporal Knowledge Graph Forecasting with Large Language Models},
author = {Long Bai and Zixuan Li and Xiaolong Jin and Jiafeng Guo and Xueqi Cheng and Tat-Seng Chua},
journal= {arXiv preprint arXiv:2506.00445},
year = {2025}
}
备注
Findings of ACL 2025