流形上神经网络对相对扰动的稳定性
信号处理
2021-10-12 v1 机器学习
摘要
图神经网络(GNNs)在许多实际场景中表现出令人印象深刻的性能,这很大程度上可归因于其稳定性性质。经验上,GNNs在大规模图上可良好扩展,但这与现有稳定性界随节点数量增长的事实相矛盾。具有明确极限的图可被视为从流形中采样得到。因此,在本文中,我们分析流形上卷积神经网络对相对扰动的稳定性,以理解GNNs在大规模图上的稳定性。具体地,我们关注对Laplace-Beltrami算子的相对扰动的稳定性。首先,我们构造了频率比阈值滤波器,用以分离Laplace-Beltrami算子的无限维谱。然后我们证明,由这些滤波器组成的流形神经网络对相对算子扰动是稳定的。作为该分析的结果,我们观察到流形神经网络在稳定性和可分辨性之间存在权衡。最后,我们在无线资源分配场景中通过实验说明了我们的结果,其中假设收发对从流形中采样。
引用
@article{arxiv.2110.04702,
title = {Stability of Neural Networks on Manifolds to Relative Perturbations},
author = {Zhiyang Wang and Luana Ruiz and Alejandro Ribeiro},
journal= {arXiv preprint arXiv:2110.04702},
year = {2021}
}
备注
5 pages, 2 figures