中文

平均场机制下图神经网络的泛化误差

机器学习 2024-07-02 v3 信息论 机器学习 math.IT

摘要

本工作为评估过参数化机制下图神经网络的泛化误差提供了一个理论框架,在该机制下,参数数量超过数据点数量。我们探索了两种广泛使用的图神经网络类型:图卷积神经网络和消息传递图神经网络。在此研究之前,过参数化机制下泛化误差的现有界限缺乏信息量,限制了我们对此类网络性能的理解。我们的新方法涉及在平均场机制下推导评估这些图神经网络泛化误差的上界。我们建立了收敛速度为 O(1/n)O(1/n) 的上界,其中 nn 是图样本的数量。这些上界为网络在具有挑战性的过参数化机制下对未见数据的性能提供了理论保证,并整体上增进了我们对其性能的理解。

关键词

引用

@article{arxiv.2402.07025,
  title  = {Generalization Error of Graph Neural Networks in the Mean-field Regime},
  author = {Gholamali Aminian and Yixuan He and Gesine Reinert and Łukasz Szpruch and Samuel N. Cohen},
  journal= {arXiv preprint arXiv:2402.07025},
  year   = {2024}
}

备注

Accepted in ICML 2024