中文

KRACL:基于图上下文建模与对比学习的稀疏知识图谱补全

人工智能 2023-02-14 v2

摘要

知识图谱嵌入(KGE)旨在将实体和关系映射到低维空间,已成为知识图谱补全的事实标准。大多数现有KGE方法受困于稀疏性挑战,即预测在知识图谱中出现频率较低的实体更为困难。本工作中,我们提出一种新颖框架KRACL,通过图上下文和对比学习缓解KG中广泛存在的稀疏性。首先,我们提出知识关系注意力网络(KRAT),通过同时将相邻三元组投影到不同潜空间并利用注意力机制联合聚合消息,来利用图上下文。KRAT能够捕捉不同上下文三元组的细微语义信息及重要性,并利用知识图谱中的多跳信息。其次,我们通过将对比损失与交叉熵损失结合,提出知识对比损失,其引入更多负样本从而丰富对稀疏实体的反馈。我们的实验表明,KRACL在各种标准知识图谱基准上取得优越结果,尤其在具有大量低入度实体的WN18RR和NELL-995上。大量实验也证实了KRACL在处理稀疏知识图谱方面的有效性以及对噪声三元组的鲁棒性。

关键词

引用

@article{arxiv.2208.07622,
  title  = {KRACL: Contrastive Learning with Graph Context Modeling for Sparse Knowledge Graph Completion},
  author = {Zhaoxuan Tan and Zilong Chen and Shangbin Feng and Qingyue Zhang and Qinghua Zheng and Jundong Li and Minnan Luo},
  journal= {arXiv preprint arXiv:2208.07622},
  year   = {2023}
}

备注

Accepted to The Web Conference 2023