迈向图神经网络对节点标识符的不变性
机器学习
2025-02-20 v1
摘要
已知消息传递图神经网络(GNN)由于其消息传递结构而具有有限的表达能力。绕过这一限制的一种机制是添加唯一的节点标识符(ID),以打破表达能力限制背后的对称性。在这项工作中,我们强调了 ID 框架的一个关键局限,并提出了一种解决该局限的方法。我们首先观察到,GNN 的最终输出显然不应依赖于所使用的特定 ID。然后我们表明,在实践中情况并非如此,因此学习到的网络并不具备这种期望的结构特性。可以通过多种方式强制实现对节点 ID 的不变性,我们讨论了它们的理论性质。随后,我们提出了一种新颖的正则化方法,有效地强制网络实现 ID 不变性。在真实世界和合成任务上的广泛评估表明,我们的方法显著提高了 ID 不变性,进而通常提升了泛化性能。
引用
@article{arxiv.2502.13660,
title = {Towards Invariance to Node Identifiers in Graph Neural Networks},
author = {Maya Bechler-Speicher and Moshe Eliasof and Carola-Bibiane Schonlieb and Ran Gilad-Bachrach and Amir Globerson},
journal= {arXiv preprint arXiv:2502.13660},
year = {2025}
}
备注
arXiv admin note: text overlap with arXiv:2411.02271