少亦可多:面向大规模动态图的无监督图剪枝
机器学习
2023-05-19 v1 人工智能
摘要
大规模图的普遍存在给图神经网络(GNN)的训练与部署带来了巨大的时间与存储挑战。近期若干工作探索了将原始大图剪枝为小而高信息量的子图,使得在剪枝图与大图上的训练与推理性能相当。尽管经验上有效,当前研究聚焦于静态或非时序图,无法直接适用于动态场景。此外,它们需要标签作为真值来学习信息结构,限制了其在难以获取标签的新问题领域的适用性。为解决该困境,我们提出并研究了动态图上的无监督图剪枝问题。我们通过提出的 STEP(一种自监督时序剪枝框架,学习从输入动态图中移除潜在冗余边)来处理该问题。从技术与工业视角,我们的方法克服了性能与时间及内存开销之间的权衡。在三个真实世界数据集上的结果展示了在动态节点分类任务上提升 GNN 效能、鲁棒性与效率的优势。最显著的是,STEP 能在百万级工业图 Alipay(700 万节点,2100 万边)上剪除超过 50% 的边,同时逼近高达 98% 的原始性能。代码见 https://github.com/EdisonLeeeee/STEP。
引用
@article{arxiv.2305.10673,
title = {Less Can Be More: Unsupervised Graph Pruning for Large-scale Dynamic Graphs},
author = {Jintang Li and Sheng Tian and Ruofan Wu and Liang Zhu and Welong Zhao and Changhua Meng and Liang Chen and Zibin Zheng and Hongzhi Yin},
journal= {arXiv preprint arXiv:2305.10673},
year = {2023}
}
备注
Preprint