面向半监督分类的高效图神经网络集成E2GNN
机器学习
2024-05-07 v1 人工智能
摘要
本工作研究了在流行的半监督设置下对图神经网络(GNN)进行集成学习。集成学习通过组合多个弱学习器的输出在提高传统机器学习准确性和鲁棒性方面已显示出优势。然而，由于两个原因，对GNN模型进行类似集成方法具有挑战性。首先，GNN以其差劲的推理能力著称，因此直接组合多个GNN模型会恶化推理效率。其次，当GNN模型在少量标记节点上训练时，其性能有限。在这种情况下，诸如多数投票等基础集成方法可能次优，因为大多数基模型即GNN可能做出错误预测。为此，本文提出一种高效集成学习器E2GNN，通过利用标记和未标记节点来以可学习方式组装多个GNN。具体而言，我们首先根据标记节点在给定数据情境下对不同GNN模型进行预训练。然后，与直接组合其输出进行标签推断不同，我们训练一个简单的多层感知器(MLP)模型来模拟它们在标记和未标记节点上的预测。随后部署统一的MLP模型为未标记或新节点进行标签推断。由于来自不同GNN模型的未标记节点预测可能不正确，我们开发了一个受强化的判别器来有效过滤掉错误预测的节点，以提升MLP的性能。通过这种方式，我们提出了一种原则方法来解决GNN集成的推理问题，同时保持集成学习的优势： improved性能。 在多个传递和归纳设置下，跨越不同的GNN backbone以及8个基准数据集的广泛实验表明，E2GNN的优越性。
引用
@article{arxiv.2405.03401,
title = {E2GNN: Efficient Graph Neural Network Ensembles for Semi-Supervised Classification},
author = {Xin Zhang and Daochen Zha and Qiaoyu Tan},
journal= {arXiv preprint arXiv:2405.03401},
year = {2024}
}