基于层次化图抽样的最小批次学习方法:保持链结构与降低方差
机器学习
2025-07-08 v7
摘要
图抽样基于的图卷积网络(GCN)在最小批次训练期间将抽样与前向/反向传播解耦,显著提升了对层数深度和图规模的可扩展性。我们提出了 HIS_GCNs,这是一种基于层次化重要抽样的方法。通过构建抽样子图的最小批次,HIS_GCNs 在规模自由训练图中关注核心区域与外围区域的重要性。具体而言,它在大多数最小批次中保留核心中心,维持外周节点之间的连通性;同时对外周边缘进行抽样时避免核心节点的干扰,这使得由完全由低度节点组成的较长链结构能够保留在同一最小批次内。HIS_GCNs 能够最大化子图边缘的离散罗里曲率(即 Ollivier-Ricci 曲率),从而实现对信息传播重要链结构的保留。该方法可实现低节点嵌入方差和高收敛速度。 diverse experiments on Graph Neural Networks (GNNs) with node classification tasks confirmed the superior performance of HIS_GCNs in terms of both accuracy and training time. Open-source code (https://github.com/HuQiaCHN/HIS-GCN).
引用
@article{arxiv.2503.00860,
title = {Hierarchical graph sampling based minibatch learning with chain preservation and variance reduction},
author = {Qia Hu and Bo Jiao},
journal= {arXiv preprint arXiv:2503.00860},
year = {2025}
}
备注
30 pages, 12 figures