LiGNN：LinkedIn中的图神经网络
机器学习
2024-02-20 v1 人工智能
摘要
在本文中，我们介绍了LiGNN，一个已部署的大规模图神经网络框架。我们分享了在LinkedIn大规模开发与部署GNN的见解。我们提出了一系列提升GNN表示学习质量的算法改进，包括带有长期损失的时序图架构、通过图密集化实现的有效冷启动解决方案、ID嵌入以及多跳邻居采样。我们解释了如何通过邻居的自适应采样、训练数据批次的分组与切片、专用共享内存队列以及局部梯度优化，构建并加速了LinkedIn图上的大规模训练，速度提升了7倍。我们总结了从A/B测试实验中收集的部署经验与教训。本文所提出的技术为求职申请回复率带来了约1%的相对提升，广告点击率提升2%，Feed日活跃用户提升0.5%，会话提升0.2%，以及人物推荐带来的周活跃用户提升0.1%。我们相信这项工作能为对大规模应用图神经网络感兴趣的工程师提供实用的解决方案与见解。
引用
@article{arxiv.2402.11139,
title = {LiGNN: Graph Neural Networks at LinkedIn},
author = {Fedor Borisyuk and Shihai He and Yunbo Ouyang and Morteza Ramezani and Peng Du and Xiaochen Hou and Chengming Jiang and Nitin Pasumarthy and Priya Bannur and Birjodh Tiwana and Ping Liu and Siddharth Dangi and Daqi Sun and Zhoutao Pei and Xiao Shi and Sirou Zhu and Qianqi Shen and Kuang-Hsuan Lee and David Stein and Baolei Li and Haichao Wei and Amol Ghoting and Souvik Ghosh},
journal= {arXiv preprint arXiv:2402.11139},
year = {2024}
}