Weisfeiler 与 Leman 走向关系化
机器学习
2022-12-01 v1 神经与进化计算
机器学习
摘要
知识图谱对多关系数据建模，改进了诸如问答或图逻辑推理等诸多应用。近来涌现出许多面向此类数据的图神经网络，常优于浅层架构。然而，此类多关系图神经网络的设计是临时的，主要由直觉与经验洞察驱动。迄今为止，它们的表达能力、彼此间的关系以及（实际的）学习性能都鲜被理解。在此，我们开启对多关系图神经网络更原理性理解的研究。具体而言，我们考察著名的 Relational GCN 与 Compositional GCN 架构在表达能力上的局限，并阐明其实际学习性能。通过将这两种架构与合适版本的 Weisfeiler-Leman 测试对齐，我们确立了在何种条件下两模型在区分非同构（多关系）图或具有不同结构角色的节点时具有相同的表达能力。进一步，借助近期在设计具表达能力图神经网络上的进展，我们引入 -RN 架构，可证明地克服上述两架构的表达局限。在经验上，我们在小与大两类多关系图的节点分类设定中证实了我们的理论发现。
引用
@article{arxiv.2211.17113,
title = {Weisfeiler and Leman Go Relational},
author = {Pablo Barcelo and Mikhail Galkin and Christopher Morris and Miguel Romero Orth},
journal= {arXiv preprint arXiv:2211.17113},
year = {2022}
}
备注
Learning on Graphs Conference 2022. arXiv admin note: text overlap with arXiv:2206.11168