解耦图卷积网络与标签传播的等价性
机器学习
2021-02-16 v2 机器学习
摘要
图卷积网络（GCN）的原始设计将特征变换与邻域聚合耦合以进行节点表示学习。近来，一些工作表明耦合不如解耦，后者能更好地支持深度图传播，并已成为 GCN 的最新范式（例如 APPNP 和 SGCN）。尽管有效，解耦 GCN 的工作机制尚未被充分理解。本文中，我们从一个新颖而基础的视角——标签传播，来探索用于半监督节点分类的解耦 GCN。我们进行了详尽的理论分析，证明解耦 GCN 本质上等同于两步标签传播：首先，沿图传播已知标签以为未标记节点生成伪标签；其次，在扩充的伪标签数据上训练常规神经网络分类器。更有趣的是，我们揭示了解耦 GCN 的有效性：超越常规标签传播，它能自动为伪标签数据分配结构感知与模型感知的权重。这解释了为何解耦 GCN 对结构噪声和过平滑相对鲁棒，却对标签噪声和模型初始化敏感。基于该洞见，我们提出了一种名为先传播后自适应训练（PTA）的新标签传播方法，其通过动态自适应加权策略克服了解耦 GCN 的缺陷。我们的 PTA 简单却比解耦 GCN 更有效且更鲁棒。我们在四个基准数据集上实证验证了我们的发现，展示了所提方法的优势。代码见 https://github.com/DongHande/PT_propagation_then_training。
引用
@article{arxiv.2010.12408,
title = {On the Equivalence of Decoupled Graph Convolution Network and Label Propagation},
author = {Hande Dong and Jiawei Chen and Fuli Feng and Xiangnan He and Shuxian Bi and Zhaolin Ding and Peng Cui},
journal= {arXiv preprint arXiv:2010.12408},
year = {2021}
}
备注
Accepted by WWW 2021