中文

基于批量视图聚合的大规模异构图集成学习:LHGEL

机器学习 2025-10-07 v1

摘要

大规模异构图的学习面临诸多挑战,包括网络规模、节点和边类型之间的异质性、节点特征的差异以及复杂的局部邻域结构。本文主张将集成学习视为解决这一问题的自然方法,即在不同的抽样条件下训练多个图学习器,集成天然地捕获图异构性的不同方面。然而,关键在于在保持计算效率的同时,将这些学习器组合起来满足全局优化目标。为此,我们提出LHGEL框架,通过批量抽样配合三个关键组件来应对这些挑战:批量视图聚合、残差注意力和多样性正则化。具体而言,批量视图聚合对子图进行抽样并形成多个图视图,而残差注意力则自适应地加权这些视图的贡献,以引导节点嵌入聚焦于信息丰富的子图,从而提高基学习器的准确性。多样性正则化鼓励来自不同视图所得嵌入矩阵之间表征的差异,促进模型多样性和集成鲁棒性。我们的理论研究表明,残差注意力可缓解集成学习中常见的梯度消失问题。实证结果表明,LHGEL方法在五个真实异构网络上的表现,始终显著优于其领域内的最新竞争者。代码和数据集已在 https://github.com/Chrisshen12/LHGEL 提供。

关键词

引用

@article{arxiv.2510.03432,
  title  = {LHGEL: Large Heterogeneous Graph Ensemble Learning using Batch View Aggregation},
  author = {Jiajun Shen and Yufei Jin and Yi He and Xingquan Zhu},
  journal= {arXiv preprint arXiv:2510.03432},
  year   = {2025}
}

备注

Accepted by ICDM 2025