从优化视角重新审视半监督节点分类中的图卷积网络
机器学习
2020-09-28 v2 人工智能
机器学习
摘要
图卷积网络(GCNs)在各种基于图的任务上取得了令人瞩目的性能。然而,当堆叠更多层时,它们会遭受过平滑问题。在本文中,我们对这一现象进行了定量研究,并对更深的 GCN 提出了新的见解。首先,我们从优化视角解释当前的图卷积操作,并认为过平滑主要是由对优化问题解的朴素一阶近似引起的。随后,我们引入两个度量来衡量节点级任务上的过平滑。具体而言,我们分别计算了相连节点与断开节点之间的成对距离占总体距离的比例。基于我们的理论与实证分析,我们建立了从优化视角出发的 GCN 通用理论框架,并推导出一种名为 GCN+ 的新型卷积核,其参数更少,同时从本质上缓解了过平滑。在真实世界数据集上的大量实验表明,GCN+ 在节点分类任务上优于最先进的基线方法。
引用
@article{arxiv.2009.11469,
title = {Revisiting Graph Convolutional Network on Semi-Supervised Node Classification from an Optimization Perspective},
author = {Hongwei Zhang and Tijin Yan and Zenjun Xie and Yuanqing Xia and Yuan Zhang},
journal= {arXiv preprint arXiv:2009.11469},
year = {2020}
}