用于链接预测的卷积超复数嵌入
机器学习
2021-11-19 v2 信息检索
摘要
知识图谱嵌入研究主要集中于两个最小的赋范可除代数， 和 。近期结果表明，四元数取值嵌入的三线性乘积可成为解决链接预测问题的更有效手段。此外，基于实值嵌入上卷积的模型常在链接预测上取得最先进结果。本文中，我们研究卷积运算与超复数乘法的组合。我们提出 QMult、OMult、ConvQ 和 ConvO 四种方法来解决链接预测问题。QMult 和 OMult 可视为先前最先进方法（包括 DistMult 和 ComplEx）的四元数与八元数扩展。ConvQ 和 ConvO 在 QMult 和 OMult 基础上，以受残差学习框架启发的方式引入卷积运算。我们在包括 WN18RR、FB15K-237 和 YAGO3-10 在内的七个链接预测数据集上评估了我们的方法。实验结果表明，随着知识图谱规模和复杂度的增长，学习超复数值向量表示的益处愈发明显。ConvO 在 FB15K-237 的 MRR、Hit@1 和 Hit@3 上优于最先进方法，而 QMult、OMult、ConvQ 和 ConvO 在 YAGO3-10 的所有指标上均优于最先进方法。结果还表明，通过预测平均可进一步提升链接预测性能。为促进可复现研究，我们提供了方法的开源实现，包括训练和评估脚本以及预训练模型。
引用
@article{arxiv.2106.15230,
title = {Convolutional Hypercomplex Embeddings for Link Prediction},
author = {Caglar Demir and Diego Moussallem and Stefan Heindorf and Axel-Cyrille Ngonga Ngomo},
journal= {arXiv preprint arXiv:2106.15230},
year = {2021}
}