中文

论 MPNN 中特征向量的维度

机器学习 2024-02-15 v2

摘要

我们重新审视了 Morris 等人 (AAAI'19) 的经典结果,即消息传递图神经网络在区分能力上等同于 Weisfeiler--Leman (WL) 同构测试。Morris 等人使用 ReLU 激活函数和 O(n)O(n) 维特征向量展示了他们的模拟结果,其中 nn 是图的节点数。通过在架构中引入随机性,Aamand 等人 (NeurIPS'22) 能够将此界限改进为 O(logn)O(\log n) 维特征向量,同样适用于 ReLU 激活函数,尽管代价是只能以高概率保证完美模拟。最近,Amir 等人 (NeurIPS'23) 证明了对于任何非多项式解析激活函数,仅使用一维特征向量就足够了。在本文中,我们给出了 Amit 等人结果的简单证明,并对其进行了独立的实验验证。

关键词

引用

@article{arxiv.2402.03966,
  title  = {On dimensionality of feature vectors in MPNNs},
  author = {César Bravo and Alexander Kozachinskiy and Cristóbal Rojas},
  journal= {arXiv preprint arXiv:2402.03966},
  year   = {2024}
}

备注

15 pages, 2 figures. Changes to the previous version: added reference to Amir et al.~(NeurIPS'23)