探索图变换器的外分布/generalization能力

图神经网络在社交网络、生物物理、交通网络和推荐系统等众多应用领域展现出显著的成功。然而，当前方法往往依赖于训练数据和测试数据共享相同分布的假设，而这在现实场景中很少出现。尽管图变换器（graph-transformer, GT）背板在多个分布内（in-distribution, ID）基准测试中超越了传统的消息传递神经网络（message-passing neural networks, MPNNs），但其在分布偏移情境下的有效性仍鲜有探讨。本文聚焦于图神经网络的外分布（out-of-distribution, OOD）generalization 挑战，尤其关注背板架构的影响。我们系统评估了 GT 和混合背板在 OOD 场景下的表现，并与 MPNNs 进行比较。为此，我们将若干主流域-generalization（domain generalization, DG）算法适配至 GT 上，并在专为测试各种分布偏移而设计的基准测试中进行评估。我们的结果表明，GT 和混合 GT-MPNN 背板在不使用专门 DG 算法的情况下，即便在四个六个基准测试中也展现出比 MPNNs 更强的 generalization 能力。此外，我们提出了一种新颖的后训练分析方法，通过比较整个 ID 和 OOD 测试数据集的聚类结构，特别检视域间对齐和类别分离情况。该方法具有模型无关性，为 GT 和 MPNN 背板提供了宝贵的洞见，并适用于图学习之外的更广泛 DG 应用，为超越标准准确率指标的 generalization 能力提供了更深入的视角。我们的发现凸显了图变换器在稳健、实际的图学习中具有的潜力，并为未来 OOD generalization 研究设定了新方向。