Rademacher 遇见颜色：更高表达力，但代价为何屈然？
机器学习
2025-10-29 v3
摘要
图神经网络（GNN）的表达力通常通过其与图同构测试（如Weisfeiler-Lehman（WL）层级）的对应关系来理解。虽然更具表达力的GNN能够区分更丰富的图集，但也被观察到会 suffer from 更高的泛化误差。这项工作通过将表达力与泛化能力联系起来，提供了对这种trade-off的理论解释。具体而言，我们表明，WL着色产生的等价类数量直接限制了GNN的 Rademacher复杂度——这是一种关键的数据依赖性泛化度量。我们的分析揭示了更大的表达力导致更高的复杂度，从而导致较弱的泛化保证。此外，我们证明了Rademacher复杂度在不同样本间颜色计数的扰动下保持稳定，确保了对不同数据集中抽样变异的鲁棒性。重要的是，我们的框架不局限于消息传递GNN或1-WL，而是扩展到任意GNN架构和将图划分为等价类的表达力度量。这一结果统一了GNN中表达力和泛化性研究，为为何增加表达力往往以牺牲泛化为代价提供了原则性的理解。
引用
@article{arxiv.2510.10101,
title = {Rademacher Meets Colors: More Expressivity, but at What Cost ?},
author = {Martin Carrasco and Caio F. Deberaldini Netto and Vahan A. Martirosyan and Aneeqa Mehrab and Ehimare Okoyomon and Caterina Graziani},
journal= {arXiv preprint arXiv:2510.10101},
year = {2025}
}