掩码标签预测：面向半监督分类的统一消息传递模型
机器学习
2021-05-12 v5 机器学习
摘要
图神经网络(GNN)与标签传播算法(LPA)均为消息传递算法，在半监督分类中已取得优越性能。GNN通过神经网络进行特征传播以做出预测，而LPA利用图邻接矩阵上的标签传播获得结果。然而，仍无有效方式直接结合这两类算法。为解决此问题，我们提出一种新颖的统一消息传递模型(UniMP)，可在训练与推断时同时融入特征传播与标签传播。首先，UniMP采用图Transformer网络，将特征嵌入与标签嵌入作为传播输入信息。其次，为在不对自环输入标签信息过拟合的情况下训练网络，UniMP引入掩码标签预测策略，即随机掩码一定比例的输入标签信息，再进行预测。UniMP在概念上统一了特征传播与标签传播，且在经验上表现强大。它在Open Graph Benchmark (OGB)上取得了新的最先进半监督分类结果。
引用
@article{arxiv.2009.03509,
title = {Masked Label Prediction: Unified Message Passing Model for Semi-Supervised Classification},
author = {Yunsheng Shi and Zhengjie Huang and Shikun Feng and Hui Zhong and Wenjin Wang and Yu Sun},
journal= {arXiv preprint arXiv:2009.03509},
year = {2021}
}
备注
7 pages, 3 figures and 8 tables; Accepted by IJCAI 2021