利用拉普拉斯特征向量生成稳定、全局表达的图表示
机器学习
2024-10-15 v1
摘要
图神经网络（GNN）在图数据上的各种机器学习任务中取得了显著成功。现有的GNN通常依赖消息传递，即通过收集邻域信息来计算节点表示，以构建其底层计算图。它们在表达力上相对受限，往往难以捕获图的全局特征。为克服此问题，流行的解决方案是使用拉普拉斯特征向量作为额外的节点特征，因为它们包含节点全局位置信息，可作为额外的节点标识符，帮助GNN分离结构相似的节点。对于此方法，正确处理具有相同特征值的特征向量之间的正交群对称性，对于其稳定性和可泛化性至关重要。然而，对每个独立特征子空间使用朴素的正交群不变编码器，可能无法保持拉普拉斯特征向量的完全表达力。此外，计算此类不变性不可避免地涉及对拉普拉斯特征值的划分，这在图结构受扰动时会出现严重不稳定。本文提出一种新方法，利用拉普拉斯特征向量生成稳定且全局表达的图表示。与先前工作的主要区别在于：（i）本方法基于强大的正交群等变神经网络层，为每个拉普拉斯特征子空间利用可学习的正交群不变表示；（ii）本方法以光滑方式处理数值上接近的特征值，确保其对扰动具有更好的鲁棒性。在各种图学习基准测试上的实验表明，我们的方法表现具有竞争力，尤其在学习图的全局属性方面展现出巨大潜力。
引用
@article{arxiv.2410.09737,
title = {Towards Stable, Globally Expressive Graph Representations with Laplacian Eigenvectors},
author = {Junru Zhou and Cai Zhou and Xiyuan Wang and Pan Li and Muhan Zhang},
journal= {arXiv preprint arXiv:2410.09737},
year = {2024}
}