基于黎曼几何的更深模型：克服图形基石模型的过平滑与过压制
机器学习
2025-10-21 v1
摘要
消息传递神经网络（MPNN）是图形基石模型的构建模块，但本质上存在过平滑和过压制问题。近期有大量研究旨在解决这两个问题。现有方法主要采用全局方法，在某些区域可能有益，但在其他区域则不利，最终导致表达性次优。本文首先通过全局度量--谱间隙--重新审视过压制问题，并证明的增加会导致相对于输入特征的梯度消失，从而削弱消息传递的有效性。基于这些理论洞见，我们提出一种局部方法，通过局部结构自适应调整消息传递。为实现这一目标，我们将局部黎曼几何与MPNN相连接，建立一种新的非齐次边界条件以解决过压制和过平滑问题。在鲍Robin条件基础上，我们设计了带有局部瓶颈调整的GBN网络，并提供了理论保证。大量实验表明，GBN在 homophilic 和 heterophilic 图上具有良好的表达性。此外，GBN即使在网络深度超过层时也不会表现出性能下降。
引用
@article{arxiv.2510.17457,
title = {Deeper with Riemannian Geometry: Overcoming Oversmoothing and Oversquashing for Graph Foundation Models},
author = {Li Sun and Zhenhao Huang and Ming Zhang and Philip S. Yu},
journal= {arXiv preprint arXiv:2510.17457},
year = {2025}
}
备注
Accept by NeurIPS 25