图卷积网络与图正则化 PCA 的关联
机器学习
2021-03-03 v2 机器学习
摘要
GCN 模型的图卷积算子最初源于谱图卷积的局部一阶近似。本工作立足于不同视角：建立图卷积与图正则化 PCA（GPCA）之间的数学联系。基于该联系，由堆叠图卷积层构成的 GCN 架构与堆叠 GPCA 密切相关。我们通过实验证明，GPCA 的无监督嵌入配合 1 层或 2 层 MLP，在包括 Open Graph Benchmark 在内的五个数据集的半监督节点分类任务上取得与 GCN 相似甚至更好的性能。这表明 GCN 的能力由基于图的正则化驱动。此外，我们将 GPCA 扩展到（半）监督设定，并证明其等价于在同类标签节点间带有“幽灵”边的扩展图上的 GPCA。最后，我们利用所发现的关系设计了一种基于堆叠 GPCA 的有效初始化策略，使 GCN 能更快收敛并在大量层数时获得稳健性能。值得注意的是，所提初始化为通用目的，可应用于其他 GNN。
引用
@article{arxiv.2006.12294,
title = {Connecting Graph Convolutional Networks and Graph-Regularized PCA},
author = {Lingxiao Zhao and Leman Akoglu},
journal= {arXiv preprint arXiv:2006.12294},
year = {2021}
}
备注
Under review