训练具有降低复杂度的抗标签噪声 GNN
机器学习
2024-11-19 v1 社会与信息网络
摘要
图神经网络（GNN）已被广泛应用于图上的半监督节点分类任务。然而，GNN 的性能受标签噪声影响显著，即少量错误标记的节点会严重误导模型训练。主流解决方案将带有标签噪声的节点分类（NCLN）定义为可靠标记任务，通常引入具有二次计算复杂度的节点相似度来更准确地评估标签可靠性。为此，本文提出标签集成图神经网络（LEGNN），这是一种针对标签噪声训练鲁棒 GNN 的低复杂度方法。LEGNN 将 NCLN 重新构建为标签集成任务，收集信息丰富的多个标签而不是构建单一可靠标签，从而避免了用于可靠性评估的高复杂度计算。具体而言，LEGNN 执行两步过程：引导邻域上下文和使用收集到的多个标签进行鲁棒学习。在前一步骤中，我们对每个节点应用随机邻居掩码，并将预测标签收集为高概率标签集。这减轻了错误标记邻居的影响，并使标签集多样化。在后一步骤中，我们利用基于偏标记学习的策略来聚合高概率标签信息以进行模型训练。此外，我们对称地收集低概率标签集，以抵消来自引导高概率标签集的潜在噪声。在六个数据集上的大量实验表明，LEGNN 在确保效率的同时取得了出色的性能。此外，它在具有超过十万个节点和一百万条边的数据集上表现出良好的可扩展性。
引用
@article{arxiv.2411.11020,
title = {Training a Label-Noise-Resistant GNN with Reduced Complexity},
author = {Rui Zhao and Bin Shi and Zhiming Liang and Jianfei Ruan and Bo Dong and Lu Lin},
journal= {arXiv preprint arXiv:2411.11020},
year = {2024}
}