Bi-GCN:二值图卷积网络
机器学习
2022-02-15 v2
摘要
图神经网络(GNNs)在图表示学习中取得了巨大成功。遗憾的是,当前 GNNs 通常依赖于将整个属性图载入网络进行处理。这一隐含假设在内存资源有限时可能无法满足,尤其当属性图规模较大时。本文中,我们率先提出二值图卷积网络(Bi-GCN),其对网络参数与输入节点特征均进行二值化。此外,原矩阵乘法被改写为二值运算以加速。根据理论分析,在引文网络上,我们的 Bi-GCN 可令网络参数与输入数据的内存消耗平均降低约 30 倍,并将推理速度平均提升约 47 倍。同时,我们还设计了一种基于新梯度近似的反向传播方法来良好训练 Bi-GCN。大量实验表明,Bi-GCN 可取得与全精度基线相当的性能。此外,我们的二值化方法可轻松应用于其他 GNNs,这已在实验中得到验证。
引用
@article{arxiv.2010.07565,
title = {Bi-GCN: Binary Graph Convolutional Network},
author = {Junfu Wang and Yunhong Wang and Zhen Yang and Liang Yang and Yuanfang Guo},
journal= {arXiv preprint arXiv:2010.07565},
year = {2022}
}
备注
Accepted by CVPR 2021 as oral presentation