中文

LoRAP:用于量化图神经网络训练的低秩聚合提示

机器学习 2026-01-22 v1 社会与信息网络

摘要

图神经网络(GNN)是旨在处理图数据的神经网络,利用消息传递机制捕获节点之间的关系和交互。GNN量化已成为在资源受限环境中减少模型大小和加速推理的一种有前景的方法。与LLM中的量化相比,图特征的量化在GNN中更受重视。受此启发,我们提出利用提示学习(操作输入数据)来提高GNN的量化感知训练(QAT)性能。为了缓解仅对节点特征进行提示只能使部分量化聚合结果达到最优的问题,我们引入了低秩聚合提示,将轻量级、依赖输入的提示注入到每个聚合特征中,以优化量化聚合的结果。在9个图数据集上对4个领先QAT框架的广泛评估表明,LoRAP在引入最小计算开销的同时,持续增强了低位量化GNN的性能。

关键词

引用

@article{arxiv.2601.15079,
  title  = {LoRAP: Low-Rank Aggregation Prompting for Quantized Graph Neural Networks Training},
  author = {Chenyu Liu and Haige Li and Luca Rossi},
  journal= {arXiv preprint arXiv:2601.15079},
  year   = {2026}
}