以稳定性视角重新审视图规范化在图表示学习中的作用
机器学习
2024-02-12 v3
摘要
近年来，图神经网络（GNNs）的表达能力被广泛研究，以揭示设计更强大 GNNs 的原则。图规范化已知是一种区分非同构图的典型方法，但在开发具有表达能力的 GNNs 时却很少被采用。本文提出通过图规范化最大化 GNNs 的表达能力，然后从模型稳定性的角度研究此类 GNNs 的能力。稳定的 GNN 会将相似的图映射到向量空间中相近的图表示，而 GNNs 的稳定性对于将其性能泛化到未见过的图至关重要。我们从理论上揭示了图规范化增强的 GNNs 中表达能力与稳定性之间的权衡。随后，我们引入通用图规范化（universal graph canonization）的概念作为解决该权衡的通用方案，并刻画了求解通用图规范化的广泛适用的充分条件。一系列全面的实验证明了所提方法的有效性。在许多流行的图基准数据集中，图规范化成功增强了 GNNs 并提供了极具竞争力的性能，表明所提方法在通用图表示学习中具有能力和巨大潜力。在充分条件成立的图数据集中，通用图规范化增强的 GNNs 持续优于 GNN 基线，并成功将 SOTA 性能提升高达 ，为生物信息学中的基因网络表示学习等众多具有挑战性的真实世界图分析任务提供了最优解。
引用
@article{arxiv.2309.00738,
title = {Rethinking the Power of Graph Canonization in Graph Representation Learning with Stability},
author = {Zehao Dong and Muhan Zhang and Philip R. O. Payne and Michael A Province and Carlos Cruchaga and Tianyu Zhao and Fuhai Li and Yixin Chen},
journal= {arXiv preprint arXiv:2309.00738},
year = {2024}
}