中文

ReGrAt:图中利用注意力处理类不平衡的正则化方法

机器学习 2022-11-29 v1

摘要

节点分类是基于图的学习中一项重要任务。尽管该领域已有大量工作,但不平衡问题常被忽视。真实世界数据并不完美,且多数情况下在表示上存在不平衡。除文本和图像外,数据可用图表示,因此解决图中的不平衡已变得至关重要。在节点分类背景下,某一类比其他类样本更少。改变数据构成是解决节点分类不平衡的常用方式,通过对数据重采样以平衡数据集来实现。然而,这有时会导致信息丢失或向数据集引入噪声。因此,本工作中我们通过改变模型损失隐式地解决该问题。具体而言,我们研究注意力网络如何助力应对不平衡。此外,我们观察到使用正则化项对少数类节点赋予更大权重有助于缓解此不平衡。我们在多个标准引文基准数据集上取得了优于现有方法的当前最优结果。

关键词

引用

@article{arxiv.2211.14770,
  title  = {ReGrAt: Regularization in Graphs using Attention to handle class imbalance},
  author = {Neeraja Kirtane and Jeshuren Chelladurai and Balaraman Ravindran and Ashish Tendulkar},
  journal= {arXiv preprint arXiv:2211.14770},
  year   = {2022}
}