重新思考面向图结构数据的独立交叉熵损失

图神经网络(GNNs)在学习图结构数据方面表现突出。在节点分类任务中，基于节点标签之间的独立同分布(i.i.d)假设，传统监督学习仅对独立训练节点的交叉熵损失求和，并对 GNNs 的权重进行平均优化。然而，与其他数据格式不同，节点天然地相互连接。研究发现，节点标签的独立分布建模限制了 GNNs 在整个图上泛化的能力以及抵御对抗攻击的能力。本文提出了一种新框架，称为联合-簇监督学习，以建模每个节点与其对应簇之间的联合分布。我们在其表示条件下学习节点和簇标签的联合分布，并使用获取的联合损失训练 GNNs。通过这种方式，从局部簇中提取的数据-标签参考信号显式强化了对目标节点的判别能力。广泛的实验表明，联合-簇监督学习能够有效提升 GNNs 的节点分类准确率。此外，凭借可能来自恶意干扰的参考信号，本学习范式显著增强了 GNNs 对于对抗攻击的防御能力。