KGPFN:通过上下文学习释放知识图谱基础模型的潜力
人工智能
2026-05-15 v1
摘要
知识图谱(KG)基础模型旨在通过学习可迁移的关系结构,泛化到具有未见实体和关系的图谱上。然而,现有大多数方法主要强调关系层面的普适性,而上下文学习作为基础模型的另一支柱,在 KG 推理中仍未被充分探索。在 KGs 中,上下文本质上是结构化且异构的:有效的预测需要以查询实体周围的局部上下文以及总结关系在众多实例中行为方式的全局上下文为条件。我们提出 KGPFN,一种使用先验数据拟合网络的 KG 基础模型,将可迁移的关系规律与来自结构化上下文的推理时上下文学习统一起来。KGPFN 首先通过在关系图上进行消息传递来学习关系表示,以捕获跨图关系不变性。对于特定查询的推理,它使用多层 NBFNet 编码局部邻域作为局部上下文。为实现全局规模的 ICL,它通过检索大量查询关系的实例及其局部邻域来构建特定关系的全局上下文,并在结合特征级和样本级注意力的先验数据拟合网络框架内对其进行聚合。通过在多样化 KGs 上的多图预训练,KGPFN 学习何时实例化可重用模式以及何时使用上下文证据覆盖它们。在 57 个 KG 基准测试上的实验表明,KGPFN 仅通过上下文学习即可对先前未见图谱实现强适应性,持续优于具有竞争力的微调 KG 基础模型。我们的代码可在 https://github.com/HKUST-KnowComp/KGPFN 获取。
引用
@article{arxiv.2605.14907,
title = {KGPFN: Unlocking the Potential of Knowledge Graph Foundation Model via In-Context Learning},
author = {Yisen Gao and Jiaxin Bai and Haoyu Huang and Zhongwei Xie and Yufei Li and Hong Ting Tsang and Sirui Han and Yangqiu Song},
journal= {arXiv preprint arXiv:2605.14907},
year = {2026}
}