图神经网络的设计空间

图神经网络（GNNs）的快速发展导致了越来越多新架构和新应用的出现。然而，当前研究侧重于提出和评估 GNN 的特定架构设计，而非研究由不同设计维度（如层数或聚合函数类型）的笛卡尔积构成的更通用的 GNN 设计空间。此外，GNN 设计常专用于单一任务，但很少努力去理解如何为新任务或新数据集快速找到最佳 GNN 设计。在此我们定义并系统研究 GNN 的架构设计空间，其包含超过 32 个不同预测任务的 315,000 种不同设计。我们的方法具有三个关键创新：（1）通用 GNN 设计空间；（2）带有相似性度量的 GNN 任务空间，从而对于给定的新任务/数据集，我们可快速识别/迁移性能最佳的架构；（3）一种高效且有效的设计空间评估方法，可从海量模型-任务组合中提炼见解。我们的关键结果包括：（1）一套设计高性能 GNN 的全面指南；（2）尽管不同任务的最佳 GNN 设计差异显著，GNN 任务空间允许跨任务迁移最佳设计；（3）使用我们设计空间发现的模型达到了最先进（state-of-the-art）性能。总体而言，我们的工作提供了一种原则性且可扩展的方法，将从研究特定任务的个别 GNN 设计，过渡到系统研究 GNN 设计空间和任务空间。最后，我们发布了 GraphGym，一个用于探索不同 GNN 设计和任务的强大平台。GraphGym 具有模块化的 GNN 实现、标准化的 GNN 评估和可复现且可扩展的实验管理。