图核混合下消息传递网络的泛化界
机器学习
2024-04-05 v1
摘要
我们研究了消息传递神经网络（MPNN）——一类主流的图神经网络（GNN）——的泛化能力。我们专门针对采用归一化求和聚合与均值聚合的 MPNN 推导了泛化界。我们的分析基于一个包含有限模板图核集合的数据生成模型。在此框架中，每张图都是通过从某个图核中采样并施加一定程度的扰动而生成的。具体而言，我们将先前的 MPNN 泛化结果扩展到更现实的设定，其中包括以下修改：1）我们分析边服从伯努利分布的简单随机图，而非加权图；2）我们从受扰动图核而非干净图核中采样图与图信号；3）我们分析稀疏图而非稠密图。在这一更现实且更具挑战性的场景中，我们提供了一个随图中平均节点数增加而下降的泛化界。我们的结果表明，只要图足够大，复杂度高于训练集规模的 MPNN 仍能有效泛化。
引用
@article{arxiv.2404.03473,
title = {Generalization Bounds for Message Passing Networks on Mixture of Graphons},
author = {Sohir Maskey and Gitta Kutyniok and Ron Levie},
journal= {arXiv preprint arXiv:2404.03473},
year = {2024}
}