SGQuant：以专用量化在图神经网络上压榨最后一点比特
机器学习
2020-09-17 v2 机器学习
摘要
随着基于图的学习日益流行，图神经网络（GNNs）因其高准确率而赢得研究与工业领域的诸多关注。然而，现有 GNNs 存在高内存占用（如节点嵌入特征）的问题。这一高内存占用阻碍了其在内存受限设备（如广泛部署的 IoT 设备）上的潜在应用。为此，我们提出一种专用的 GNN 量化方案 SGQuant，以系统性降低 GNN 内存消耗。具体而言，我们首先提出一种为 GNN 量身定制的量化算法设计与 GNN 量化微调方案，在保持准确率的同时降低内存消耗。接着，我们研究在多粒度（GNN 计算的组件、图拓扑与层级别）上运作的量化策略。此外，我们提供自动比特选择（ABS）以精确定位上述多粒度量化最合适的量化比特数。大量实验表明，与原始全精度 GNNs 相比，SGQuant 可有效将内存占用降低 4.25 倍至 31.9 倍，同时将平均准确率下降限制在 0.4%。
引用
@article{arxiv.2007.05100,
title = {SGQuant: Squeezing the Last Bit on Graph Neural Networks with Specialized Quantization},
author = {Boyuan Feng and Yuke Wang and Xu Li and Shu Yang and Xueqiao Peng and Yufei Ding},
journal= {arXiv preprint arXiv:2007.05100},
year = {2020}
}