Bridge:通过语言模型与知识表示实现知识图谱统一的补全框架
计算与语言
2025-07-01 v3 机器学习
摘要
知识图谱补全(KGC)是基于现有知识图谱推断缺失三元组的任务。结构信息和语义信息对成功的 KGC 均至关重要。然而,现有方法仅使用来自知识图谱嵌入的结构知识或来自预训练语言模型(PLM)的语义信息,导致模型性能次优。此外,由于 PLM 并未在知识图谱上进行训练,直接使用 PLM 编码三元组可能不恰当。为克服这些限制,我们提出了一种名为 Bridge 的新型框架,联合编码知识图谱的结构和语义信息。具体而言,我们策略性地分别使用 PLM 编码实体和关系,以更好地利用 PLM 的语义知识,并通过结构学习原则实现结构化表示学习。此外,为弥合知识图谱与 PLM 之间的差距,我们采用一种名为 BYOL 的自监督表示学习方法,使用三元组的两个不同视图对 PLM 进行微调。与 BYOL 不同,BYOL 使用增强方法创建同一图像的两个语义相似视图,可能改变语义信息。我们策略性地将三元组分为两部分来创建不同视图,从而避免语义改变。实验表明,Bridge 在三个基准数据集上优于 SOTA 模型。
引用
@article{arxiv.2411.06660,
title = {Bridge: A Unified Framework to Knowledge Graph Completion via Language Models and Knowledge Representation},
author = {Qiao Qiao and Yuepei Li and Qing Wang and Kang Zhou and Qi Li},
journal= {arXiv preprint arXiv:2411.06660},
year = {2025}
}