利用标签非均匀性进行图神经网络中的节点分类
机器学习
2023-05-02 v1 信号处理
摘要
在使用图神经网络(GNN)进行节点分类时,典型模型会在每个节点为不同类标签生成 logits。softmax 层通常基于最大的 logit 输出标签预测。我们证明可以利用这些 logits 从数据集中推断隐藏的图结构信息。我们引入了标签非均匀性的关键概念,它源自 logits 的 softmax 分布与均匀分布之间的 Wasserstein 距离。我们证明标签非均匀性小的节点更难被正确分类。我们从理论上分析了标签非均匀性在图中的变化,这为提升模型性能提供了见解:增加具有高非均匀性的训练样本,或丢弃边以减小小非均匀性节点集的最大割大小。这些机制可以轻松添加到基础 GNN 模型中。实验结果表明,我们的方法提升了许多基准基础模型的性能。
引用
@article{arxiv.2305.00139,
title = {Leveraging Label Non-Uniformity for Node Classification in Graph Neural Networks},
author = {Feng Ji and See Hian Lee and Hanyang Meng and Kai Zhao and Jielong Yang and Wee Peng Tay},
journal= {arXiv preprint arXiv:2305.00139},
year = {2023}
}