中文

高阶图谱神经网络:逼近与图谱距离

机器学习 2025-05-20 v3

摘要

图谱极限模型(如用于稠密图极限的图谱)最近被用于研究图神经网络(GNN)的规模可迁移性。虽然大多数文献专注于消息传递GNN(MPNN),但本文关注更强大的高阶GNN。首先,我们将适用于图谱的k-WL测试(B"oker,2023)扩展到图谱信号空间,并引入信号加权同构密度作为关键工具。以IWNs(不变图网络)的图谱推广为具体研究对象,提出基于界限线性算子子集的不变图谱网络(IWNs)。即使采用受限基,IWNs的阶数k至少与k-WL测试一样强,并且我们在L^p距离下建立了图谱信号的通用逼近结果。这显著扩展了Cai & Wang(2022)的先前工作,表明IWNs——即其IGN-small子集——在极限下保留了与完整IGN基相同的表达能力。与其先前方法相比,我们的IWNs蓝图更好地与图谱空间的几何结构一致,例如有助于与MPNN进行比较。我们指出,尽管典型的高阶GNN相对于图谱距离是连续的——这导致其缺乏收敛性,本质上与k-WL的定义相关——但可迁移性仍然可实现。

关键词

引用

@article{arxiv.2503.14338,
  title  = {Higher-Order Graphon Neural Networks: Approximation and Cut Distance},
  author = {Daniel Herbst and Stefanie Jegelka},
  journal= {arXiv preprint arXiv:2503.14338},
  year   = {2025}
}

备注

53 pages, 6 figures, 2 tables. ICLR 2025 camera ready