中文

单层图卷积网络的渐近泛化误差

机器学习 2024-11-22 v3 无序系统与神经网络

摘要

尽管图卷积网络展现出巨大的实际应用前景,但与更广泛研究的全连接监督神经网络相比,其关于样本数量的泛化性质的理论理解仍处于起步阶段。本文预测了在高维极限下,由属性随机块模型(SBM)生成的数据训练的单层图卷积网络(GCN)的性能。此前,Shi等人(2022)仅考虑了上下文SBM(CSBM)上的岭回归;我们将分析推广到CSBM的任意凸损失和正则化,并增加了对另一种数据模型——神经先验SBM的分析。我们还研究了高信噪比极限,详细说明了GCN的收敛速率,并表明尽管GCN是一致的,但在所考虑的任何情况下均未达到贝叶斯最优速率。

关键词

引用

@article{arxiv.2402.03818,
  title  = {Asymptotic generalization error of a single-layer graph convolutional network},
  author = {O. Duranthon and L. Zdeborová},
  journal= {arXiv preprint arXiv:2402.03818},
  year   = {2024}
}