具有一般聚合函数的大规模随机图上消息传递图神经网络的收敛性
机器学习
2025-02-13 v4 机器学习
摘要
我们研究了当节点数趋于无穷时，随机图模型上消息传递图神经网络向其连续对应形式的收敛性。迄今为止，这种收敛性仅在聚合函数具有归一化均值形式，或等价地，应用邻接矩阵或图拉普拉斯等经典算子时才为人所知。我们将此类结果推广到一大类聚合函数，其涵盖了所有经典使用的消息传递图神经网络，例如基于注意力的消息传递、最大卷积消息传递、（度归一化）卷积消息传递或基于矩的聚合消息传递。在温和假设下，我们给出了高概率下的非渐近界以量化该收敛性。我们的主要结果基于 McDiarmid 不等式。有趣的是，该结果不适用于聚合为逐坐标最大值的情况。我们单独处理这种情况并获得了不同的收敛速率。
引用
@article{arxiv.2304.11140,
title = {Convergence of Message Passing Graph Neural Networks with Generic Aggregation On Large Random Graphs},
author = {Matthieu Cordonnier and Nicolas Keriven and Nicolas Tremblay and Samuel Vaiter},
journal= {arXiv preprint arXiv:2304.11140},
year = {2025}
}