在异配性与标签噪声图上复兴标签传播
机器学习
2024-06-13 v2 人工智能
摘要
标签噪声是大型数据集中的常见挑战,因其会显著削弱深度神经网络的泛化能力。现有研究多聚焦于计算机视觉中的噪声标签;然而,图模型以节点特征与图拓扑二者为输入,并通过消息传递机制更易受标签噪声影响。近来仅有少量工作提出应对图上的标签噪声。一个显著局限是它们在图呈现同配性且标签平滑分布的假设下运作。但真实图会表现出不同程度的异配性,甚至以异配性为主导,致使现有方法不足。本文研究任意异配性情形下的图标签噪声,旨在纠正噪声标签并为先前未标注节点分配标签。我们首先进行两项实证分析以探究图同配性对图标签噪声的影响。基于观察,我们提出一种高效算法,记为 。具体而言, 是一种含三步的迭代算法:(1)重构图以恢复同配性,(2)利用标签传播纠正噪声标签,(3)选取高置信度标签保留至下一轮迭代。通过迭代这些步骤,我们得到一组正确标签,最终在节点分类任务中达到高准确率。理论分析亦被给出以证明其显著的去噪效果。最后,我们在十个具有不同图异配程度与各类噪声的基准数据集上实验,将 与十种典型基线方法比较。结果展示了所提 的优越性能。
引用
@article{arxiv.2310.16560,
title = {Resurrecting Label Propagation for Graphs with Heterophily and Label Noise},
author = {Yao Cheng and Caihua Shan and Yifei Shen and Xiang Li and Siqiang Luo and Dongsheng Li},
journal= {arXiv preprint arXiv:2310.16560},
year = {2024}
}
备注
To appear in KDD2024