VEM$^2$L：一种在稀疏知识图谱补全中融合文本与结构知识的可插拔框架
计算与语言
2022-08-16 v3
摘要
知识图谱补全（KGC）旨在对已知事实进行推理并推断缺失链接，但在那些稀疏知识图谱（KG）上表现较弱。近期工作引入文本信息作为辅助特征或应用图稠化来缓解这一挑战，但存在结构特征融合效率低以及注入噪声三元组的问题。本文同时从这两个动机出发解决稀疏KGC问题，并进一步处理它们各自的缺陷，提出了一种面向稀疏KG的可插拔统一框架VEML。VEML的基本思想是促使基于文本的KGC模型与基于结构的KGC模型相互学习，将各自的知识融合为统一整体。为深度联合利用文本与结构特征，我们将模型内的知识划分为两个互不重叠的部分：在训练集上的表达能力与对未观测查询的泛化能力。对于前者，我们促使这两个基于文本与基于结构的模型在训练集上相互学习。对于泛化能力，我们提出一种由变分EM（VEM）算法导出的新颖知识融合策略，在此过程中我们还应用图稠化操作以进一步缓解稀疏图问题。我们的图稠化由VEM算法导出。由于EM算法的收敛性，我们从理论上保证了似然函数的提升，且受注入噪声三元组的影响较小。结合这两种融合方法与图稠化，我们最终提出了VEML框架。详尽的理论依据与定性实验均证明了我们所提框架的有效性。
引用
@article{arxiv.2207.01528,
title = {VEM$^2$L: A Plug-and-play Framework for Fusing Text and Structure Knowledge on Sparse Knowledge Graph Completion},
author = {Tao He and Ming Liu and Yixin Cao and Tianwen Jiang and Zihao Zheng and Jingrun Zhang and Sendong Zhao and Bing Qin},
journal= {arXiv preprint arXiv:2207.01528},
year = {2022}
}
备注
12 pages, 5 figures