单层图卷积网络的渐近泛化误差
机器学习
2024-11-22 v3 无序系统与神经网络
摘要
尽管图卷积网络展现出巨大的实际应用前景,但与更广泛研究的全连接监督神经网络相比,其关于样本数量的泛化性质的理论理解仍处于起步阶段。本文预测了在高维极限下,由属性随机块模型(SBM)生成的数据训练的单层图卷积网络(GCN)的性能。此前,Shi等人(2022)仅考虑了上下文SBM(CSBM)上的岭回归;我们将分析推广到CSBM的任意凸损失和正则化,并增加了对另一种数据模型——神经先验SBM的分析。我们还研究了高信噪比极限,详细说明了GCN的收敛速率,并表明尽管GCN是一致的,但在所考虑的任何情况下均未达到贝叶斯最优速率。
引用
@article{arxiv.2402.03818,
title = {Asymptotic generalization error of a single-layer graph convolutional network},
author = {O. Duranthon and L. Zdeborová},
journal= {arXiv preprint arXiv:2402.03818},
year = {2024}
}