中文

Bi-GCN:二值图卷积网络

机器学习 2022-02-15 v2

摘要

图神经网络(GNNs)在图表示学习中取得了巨大成功。遗憾的是,当前 GNNs 通常依赖于将整个属性图载入网络进行处理。这一隐含假设在内存资源有限时可能无法满足,尤其当属性图规模较大时。本文中,我们率先提出二值图卷积网络(Bi-GCN),其对网络参数与输入节点特征均进行二值化。此外,原矩阵乘法被改写为二值运算以加速。根据理论分析,在引文网络上,我们的 Bi-GCN 可令网络参数与输入数据的内存消耗平均降低约 30 倍,并将推理速度平均提升约 47 倍。同时,我们还设计了一种基于新梯度近似的反向传播方法来良好训练 Bi-GCN。大量实验表明,Bi-GCN 可取得与全精度基线相当的性能。此外,我们的二值化方法可轻松应用于其他 GNNs,这已在实验中得到验证。

关键词

引用

@article{arxiv.2010.07565,
  title  = {Bi-GCN: Binary Graph Convolutional Network},
  author = {Junfu Wang and Yunhong Wang and Zhen Yang and Liang Yang and Yuanfang Guo},
  journal= {arXiv preprint arXiv:2010.07565},
  year   = {2022}
}

备注

Accepted by CVPR 2021 as oral presentation