DeepE:一种用于知识图谱嵌入的深度神经网络
计算与语言
2022-11-10 v1 人工智能
摘要
最近,基于神经网络的方法在知识图谱嵌入 (KGE) 任务中展现了其学习更具表达力特征的能力。然而,在简单图上,深度方法的性能往往落后于浅层方法。一个可能的原因是深度模型难以训练,而浅层模型可能足以准确表示简单 KG 的结构。在本文中,我们提出了一种基于神经网络的模型,名为 DeepE,来解决这个问题,该模型堆叠多个构建块以基于头实体和关系预测尾实体。每个构建块是线性函数和非线性函数的相加。堆叠的构建块等价于一组具有不同非线性深度的学习函数。因此,DeepE 允许深层函数学习深层特征,浅层函数学习浅层特征。通过广泛的实验,我们发现 DeepE 优于其他最先进的基线方法。DeepE 的一个主要优势是鲁棒性。DeepE 在 FB15k-237、WN18RR 和 YAGO3-10 上获得的 Mean Rank (MR) 分数比最佳基线方法分别低 6%、30% 和 65%。我们的设计使得在 KGE 上训练更深层的网络成为可能,例如在 FB15k-237 上训练 40 层,且不牺牲简单关系上的精度。
引用
@article{arxiv.2211.04620,
title = {DeepE: a deep neural network for knowledge graph embedding},
author = {Zhu Danhao and Shen Si and Huang Shujian and Yin Chang and Ding Ziqi},
journal= {arXiv preprint arXiv:2211.04620},
year = {2022}
}
备注
10 pages, 5 figures, 7 tables