从图信号去噪视角理解图神经网络
机器学习
2020-06-09 v1 机器学习
摘要
图神经网络（GNNs）因在节点分类等任务上的优异表现而备受关注。然而，对于 GNNs 尤其是节点表示学习为何及如何起作用，人们的理解尚不充分。本文旨在提供一个理论框架，从图信号去噪的视角理解 GNNs，具体为谱图卷积网络与图注意力网络。我们的框架表明，GNNs 隐式地求解图信号去噪问题：谱图卷积起到对节点特征去噪的作用，而图注意力起到对边权重去噪的作用。我们还展示了一个线性自注意力机制能够与最先进的图注意力方法相竞争。我们的理论结果进一步导出了两个新模型 GSDN-F 与 GSDN-EF，它们对具有含噪节点特征和/或含噪边的图表现有效。我们在基准数据集上的实验验证了我们的理论发现以及新模型的有效性。源代码见 \url{https://github.com/fuguoji/GSDN}。
引用
@article{arxiv.2006.04386,
title = {Understanding Graph Neural Networks from Graph Signal Denoising Perspectives},
author = {Guoji Fu and Yifan Hou and Jian Zhang and Kaili Ma and Barakeel Fanseu Kamhoua and James Cheng},
journal= {arXiv preprint arXiv:2006.04386},
year = {2020}
}
备注
19 pages, 8 figures