面向图神经网络的结构感知标签平滑
机器学习
2021-12-02 v1 人工智能
社会与信息网络
摘要
将标签分布表示为 one-hot 向量是训练节点分类模型的常见做法。然而，one-hot 表示可能不能充分反映节点在不同类别中的语义特征，因为某些节点在语义上可能接近其他类别中的邻居。这会导致过度自信，因为模型被鼓励在分类每个节点时赋予全概率。虽然使用标签平滑训练模型可在一定程度上缓解此问题，但仍无法捕捉由图结构隐含的节点语义特征。在本工作中，我们提出一种新颖的 SALS（Structure-Aware Label Smoothing，结构感知标签平滑）方法，作为流行节点分类模型的增强组件。SALS 利用图结构捕捉相连节点间的语义关联，并生成结构感知标签分布以替换原始 one-hot 标签向量，从而在不增加推理成本的情况下提升节点分类性能。在七个节点分类基准数据集上的大量实验揭示了我们的 SALS 在提升直推式与归纳式节点分类上的有效性。实证结果表明，SALS 优于标签平滑方法，并增强节点分类模型以超越基线方法。
引用
@article{arxiv.2112.00499,
title = {Structure-Aware Label Smoothing for Graph Neural Networks},
author = {Yiwei Wang and Yujun Cai and Yuxuan Liang and Wei Wang and Henghui Ding and Muhao Chen and Jing Tang and Bryan Hooi},
journal= {arXiv preprint arXiv:2112.00499},
year = {2021}
}