图上弱专家与强专家的混合

现实中的图同时包含（1）节点丰富的自身特征和（2）邻域的信息化结构，在典型设置中由图神经网络（GNN）联合处理。我们提出通过弱专家与强专家的混合（Mowst）来解耦这两种模态，其中弱专家是一个轻量级多层感知机（MLP），强专家是一个现成的GNN。为使专家协作适应不同目标节点，我们提出一种基于弱专家预测logits离散程度的“置信度”机制。强专家在低置信度区域被条件激活，当节点的分类依赖邻域信息或弱专家模型质量较低时生效。我们通过分析置信度函数对损失的影响，揭示了有趣的训练动态：我们的训练算法通过对图进行有效软分割，鼓励各专家的专业化。此外，我们的“置信度”设计对强专家施加了可取的偏置，以受益于GNN更好的泛化能力。Mowst易于优化且具备强表达能力，计算成本与单个GNN相当。在实验上，基于4种骨干GNN架构的Mowst在6个标准节点分类基准上显示出显著的准确率提升，包括同配与异配图（https://github.com/facebookresearch/mowst-gnn）。