AKE-GNN：基于自适应知识交换的高效图学习
机器学习
2023-10-05 v3 人工智能
摘要
图神经网络（GNNs）已广泛应用于各种图挖掘任务中。然而，近期工作揭示出训练良好的GNNs中学习到的权重（通道）高度冗余，这不可避免地限制了GNNs的性能。我们并非出于效率考虑移除这些冗余通道，而是旨在重新激活它们以扩大GNNs的表示能力，从而实现高效的图学习。在本文中，我们提出用其他信息丰富的通道替换这些冗余通道来达到此目的。我们引入了一种名为AKE-GNN的新型GNN学习框架，该框架在由图增强生成的多个图视图之间执行自适应知识交换策略。AKE-GNN首先训练多个GNN，每个对应一个图视图，以获得信息丰富的通道。然后，AKE-GNN以逐层方式，将一个GNN权重参数矩阵中的冗余通道与另一个GNN的信息丰富通道迭代交换。此外，现有GNN可无缝集成到我们的框架中。在节点分类、链接预测和图分类的一系列实验上，AKE-GNN相比各种基线取得了优越性能。特别地，我们在15个公共基准数据集、8种流行GNN模型和3种图任务上进行了一系列实验，表明AKE-GNN持续优于现有流行GNN模型甚至其集成模型。关于知识交换方法的大量消融研究和分析验证了AKE-GNN的有效性。
引用
@article{arxiv.2106.05455,
title = {AKE-GNN: Effective Graph Learning with Adaptive Knowledge Exchange},
author = {Liang Zeng and Jin Xu and Zijun Yao and Yanqiao Zhu and Jian Li},
journal= {arXiv preprint arXiv:2106.05455},
year = {2023}
}