IceBerg:用于类别不平衡节点分类的去偏自训练框架
机器学习
2025-02-11 v1
摘要
图神经网络 (GNN) 在处理非欧几里得图结构数据方面取得了很大成功,并在许多实际应用中得到广泛部署。然而,在类别不平衡的训练集中,其有效性常常受到威胁。大多数现有研究从监督学习视角分析类别不平衡的节点分类,但它们未充分利用半监督场景中大量未标记节点的潜力。我们认为,监督信号仅是冰山的一角,大量未标记节点尚未被有效利用。在本工作中,我们提出 IceBerg,一个去偏自训练框架,用于同时解决 GNNs 的类别不平衡和 few-shot 挑战。具体而言,为了解决自训练中的马太效应和标签分布漂移问题,我们提出 Double Balancing,该方法只需几行代码即可作为一个简单的即插即用模块大大提高现有基线的性能。其次,为了增强 GNNs 的长程传播能力,我们对 GNNs 的传播和变换操作进行了解耦。因此,弱监督信号可以更有效地传播以解决 few-shot 问题。总之,我们发现利用未标记节点可以显著提高 GNNs 在类别不平衡和 few-shot 场景下的性能,即使是小的、手术性的修改也能带来显著的性能提升。系统实验表明,我们的方法在现有类别不平衡节点分类基线上可实现显著的性能提升。此外,由于 IceBerg 在利用无监督信号方面的卓越能力,它在 few-shot 节点分类场景下也实现了最新的 SOTA 结果。IceBerg 的代码已公开:https://github.com/ZhixunLEE/IceBerg。
关键词
引用
@article{arxiv.2502.06280,
title = {IceBerg: Debiased Self-Training for Class-Imbalanced Node Classification},
author = {Zhixun Li and Dingshuo Chen and Tong Zhao and Daixin Wang and Hongrui Liu and Zhiqiang Zhang and Jun Zhou and Jeffrey Xu Yu},
journal= {arXiv preprint arXiv:2502.06280},
year = {2025}
}
备注
Accepted by TheWebConf (WWW) 2025