校准与去偏图卷积网络的层-wise 采样
机器学习
2023-06-19 v2
摘要
已有多种基于采样的方法被开发用于近似和加速图卷积网络（GCNs）训练中的节点嵌入聚合。其中，一种逐层方法递归地执行重要性采样，为每一层中现有节点联合选择邻居。本文从矩阵近似的视角重新审视该方法，并指出了现有逐层采样方法中的两个问题：次优采样概率以及无放回采样引起的估计偏差。为解决这些问题，我们相应地提出两种补救方法：用于构造采样概率的新原则以及一种高效的去偏算法。通过广泛的估计方差分析和在常见基准上的实验证明了改进。代码与算法实现公开于 https://github.com/ychen-stat-ml/GCN-layer-wise-sampling 。
引用
@article{arxiv.2206.00583,
title = {Calibrate and Debias Layer-wise Sampling for Graph Convolutional Networks},
author = {Yifan Chen and Tianning Xu and Dilek Hakkani-Tur and Di Jin and Yun Yang and Ruoqing Zhu},
journal= {arXiv preprint arXiv:2206.00583},
year = {2023}
}
备注
Published at TMLR. Code is available at https://github.com/ychen-stat-ml/GCN-layer-wise-sampling