一种实用的、渐进可表达的 GNN

消息传递神经网络（MPNNs）近年来已成为图神经网络（GNNs）的主导类型。然而，MPNNs 存在显著局限；即在图同构测试框架下，它们区分图的能力至多与一维 Weisfeiler-Leman（1-WL）测试一样强。为此，研究者从 k-WL 层次中汲取灵感以开发更具表达力的 GNNs。然而，当前的 k-WL 等价 GNNs 即使对较小的 k 也不实用，因为 k-WL 随 k 增大在组合上变得极为复杂。同时，若干工作发现无需高度表达模型也能在图学习任务中取得极大经验成功，这意味着以 k-WL 这类粗粒度表达力标尺追求表达力在实用任务中常非必需。为真正理解表达力—复杂度权衡，需要更细粒度的标尺，以更渐进地提升表达力。我们的工作提出此类方案：即，我们首先提出 (k, c)(≤)-SETWL 层次，其复杂度较 k-WL 大幅降低，通过将 k 个节点的元组替换为在原诱导图中定义于 ≤c 个连通分量上、含 ≤k 个节点的集合实现。我们展示了该模型相对于 k-WL 的有利理论结果，并通过 (k, c)(≤)-SETGNN 将其具体化，其表达力与 (k, c)(≤)-SETWL 相当。我们的模型实用且渐进可表达，随 k 和 c 增大而增强。我们在若干基准数据集上展示了有效性，以适用于实际图的运行时间与内存占用取得了若干 SOTA 结果。我们在 https://github.com/LingxiaoShawn/KCSetGNN 开源了实现。