卷积二维知识图谱嵌入
机器学习
2018-07-05 v6
摘要
知识图谱的链接预测是预测实体间缺失关系的任务。先前关于链接预测的工作集中于浅层、快速模型,这些模型可以扩展到大型知识图谱。然而,这些模型学习到的特征不如深度、多层模型具有表现力——这可能限制了性能。在这项工作中,我们引入ConvE,一种用于链接预测的多层卷积网络模型,并报告了在几个既定数据集上的最先进结果。我们还表明该模型具有极高的参数效率,以8倍和17倍更少的参数实现了与DistMult和R-GCN相同的性能。对我们模型的分析表明,它特别有效地建模具有高入度的节点——这在高度连接、复杂的知识图谱(如Freebase和YAGO3)中很常见。此外,已经注意到由于训练集中的逆关系出现在测试集中,WN18和FB15k数据集受到测试集泄漏的影响——然而,这一问题的程度迄今尚未被量化。我们发现这个问题很严重:一个简单的基于规则的模型可以在WN18和FB15k上都取得最先进的结果。为了确保模型在那些仅利用逆关系无法产生有竞争力结果的数据集上被评估,我们调查并验证了几个常用数据集——在必要时推导出鲁棒变体。然后我们在这些鲁棒数据集上对我们自己的和几个先前提出的模型进行实验,发现ConvE在大多数数据集上实现了最先进的平均倒数排名(Mean Reciprocal Rank)。
引用
@article{arxiv.1707.01476,
title = {Convolutional 2D Knowledge Graph Embeddings},
author = {Tim Dettmers and Pasquale Minervini and Pontus Stenetorp and Sebastian Riedel},
journal= {arXiv preprint arXiv:1707.01476},
year = {2018}
}
备注
Extended AAAI2018 paper