图神经网络对相对扰动的稳定性
机器学习
2019-10-23 v1 信号处理
机器学习
摘要
图神经网络(GNNs)由依次应用图卷积与逐点非线性函数的层堆叠而成,已成为处理图上信号的强大架构。图卷积(以及因此的 GNNs)严重依赖图的先验知识进行运算。然而,在许多实际情形中图偏移矩阵(GSO)未知而需要估计,或者可能从训练时到测试时发生改变。在本文中,我们致力于研究支撑信号的底层图拓扑发生变化对 GNN 输出的影响。我们证明,具有积分 Lipschitz 滤波器的图卷积可导出这样的 GNN:其输出变化被拓扑相对变化的规模所界定。此外,我们利用该结果表明,GNN 成功的主要原因是它们是能够区分高特征值上特征的稳定架构,这是线性图滤波器(其要么稳定要么有区分性,但无法兼具)所不能达成的本领。最后,我们评论了利用该结果训练具有更高稳定性的 GNN 的方法,并在电影推荐系统上进行了实验。
引用
@article{arxiv.1910.09655,
title = {Stability of Graph Neural Networks to Relative Perturbations},
author = {Fernando Gama and Joan Bruna and Alejandro Ribeiro},
journal= {arXiv preprint arXiv:1910.09655},
year = {2019}
}
备注
Submitted to Int. Conf. on Acoustics, Speech and Signal Processing (ICASSP) 2020