GiGL:Snapchat 的大规模图神经网络
机器学习
2025-05-27 v2
摘要
图神经网络 (GNN) 的近期进展在引入图神经网络后,导致了在大规模商业应用中广泛关注图机器学习。GNN 能够实现对给定图结构的模型参数的可微端到端 (E2E) 学习,从而实现针对流行节点、边 (链接) 和图级任务的优化。尽管在新的 GNN 层和训练策略方面的研究创新迅猛,但工业采用和 GNN 的实用性却滞后于大规模图 ML 问题所特有的规模挑战。在本工作中,我们分享了我们在 Snapchat 上训练、推理和利用 GNN 的方法。为此,我们提出了 GiGL (Gigantic Graph Learning),一个开源库,以便为研究人员、ML 工程师和实践者提供大规模分布式图 ML。我们在 Snapchat 内部使用 GiGL 来处理 GNN 工作流程的重量级工作,包括从关系型数据库进行图数据预处理、子图采样、分布式训练、推理和编排。GiGL 旨在与以 PyTorch Geometric (PyG) 等学术界突出的开源 GNN 建模库实现干净的接口,同时处理规模和生产化挑战,这使得内部实践者更容易专注于建模。GiGL 在多个生产环境中使用,并在过去 2 年间在好友推荐、内容推荐和广告等多个业务领域推出了超过 35 个项目。本工作详细介绍了高层设计和该库提供的工具、规模特性、在多样化业务环境中的案例研究,以及在大型社交数据中大规模图 ML 中所学到的关键经验教训。GiGL 已在 https://github.com/Snapchat/GiGL 上开源。
引用
@article{arxiv.2502.15054,
title = {GiGL: Large-Scale Graph Neural Networks at Snapchat},
author = {Tong Zhao and Yozen Liu and Matthew Kolodner and Kyle Montemayor and Elham Ghazizadeh and Ankit Batra and Zihao Fan and Xiaobin Gao and Xuan Guo and Jiwen Ren and Serim Park and Peicheng Yu and Jun Yu and Shubham Vij and Neil Shah},
journal= {arXiv preprint arXiv:2502.15054},
year = {2025}
}
备注
Accepted by KDD 2025