从局部到全局:谱启发的图神经网络
机器学习
2022-11-08 v3 机器学习
摘要
图神经网络(GNNs)是针对非欧几里得数据的强大深度学习方法。流行的 GNN 是消息传递算法(MPNNs),其在局部图邻域内聚合与组合信号。然而,浅层 MPNN 往往遗漏长程信号,且在某些异配图上表现不佳,而深层 MPNN 则可能遭受过平滑或过压缩等问题。为缓解此类问题,现有工作通常借鉴欧几里得数据上训练神经网络所用的归一化技术或修改图结构。然而这些方法在理论上尚未被充分理解,并可能增加整体计算复杂度。本工作中,我们从谱图嵌入中汲取灵感,提出 ——一种简单的逐层归一化技术以增强 MPNN。我们证明 可证明地表达图算子的前 个主导特征向量,从而防止过平滑且与图拓扑无关;同时,它产生从局部特征到全局信号的一系列表示,避免了过压缩。我们在广泛的模拟与真实图上应用 ,并展示了其具有竞争力的性能,尤其在异配图上。
引用
@article{arxiv.2209.12054,
title = {From Local to Global: Spectral-Inspired Graph Neural Networks},
author = {Ningyuan Huang and Soledad Villar and Carey E. Priebe and Da Zheng and Chengyue Huang and Lin Yang and Vladimir Braverman},
journal= {arXiv preprint arXiv:2209.12054},
year = {2022}
}
备注
Accepted for publication at the NeurIPS 2022 GLFrontiers Workshop