论GNN导数的表达能力
机器学习
2025-10-06 v1
摘要
尽管图神经网络（GNNs）取得了显著进展，但其有限的表达能力仍是一个根本挑战。关于GNN表达能力的研究已产生诸多表达性架构，进而形成具有表达能力递增模型的架构层级。另一方面，GNN关于节点特征的导数在过挤压与过平滑现象、GNN可解释性等背景下已被广泛研究。迄今为止，这些导数作为增强GNN表达能力的手段仍未被探索。在本文中，我们证明这些导数提供了一种增强GNN表达能力的自然途径。我们引入了高阶导数GNN（HOD-GNN），这是一种通过利用基础模型的高阶节点导数来增强消息传递神经网络（MPNNs）表达能力的新方法。这些导数生成具有表达力且感知结构的节点嵌入，并由第二个GNN在端到端可训练的架构中处理。在理论上，我们证明了所得架构系列的表达能力与WL层级相一致。我们还揭示了HOD-GNN、子图GNN与流行结构编码方案之间的深层联系。为了提高计算效率，我们开发了一种利用图稀疏性与并行性的消息传递算法，用于计算MPNNs的高阶导数。在流行图学习基准上的评估表明，HOD-GNN在流行图学习任务上表现出色。
引用
@article{arxiv.2510.02565,
title = {On The Expressive Power of GNN Derivatives},
author = {Yam Eitan and Moshe Eliasof and Yoav Gelberg and Fabrizio Frasca and Guy Bar-Shalom and Haggai Maron},
journal= {arXiv preprint arXiv:2510.02565},
year = {2025}
}
备注
30 pages, 3 figures