STAG：面向动态图基于GNN服务实现低延迟与低陈旧度
机器学习
2023-09-29 v1 人工智能
摘要
许多新兴面向用户的服务采用图神经网络（GNNs）以提升服务准确率。当GNN模型所用图发生变化时，图中节点的表示（嵌入）应相应更新。然而，节点表示更新过慢，导致用户查询响应延迟过长（在更新完成后才执行推理）或严重的陈旧度问题（基于陈旧数据执行推理）。我们的深入分析表明，更新缓慢主要源于图中的邻居爆炸问题及重复计算。基于上述发现，我们提出STAG，一种实现基于GNN服务低延迟与低陈旧度的GNN服务框架。其包含协作服务机制与基于可加性的增量传播策略。通过协作服务机制，更新阶段仅更新部分节点表示，最终表示在推理阶段计算，从而缓解邻居爆炸问题。基于可加性的增量传播策略在更新阶段复用中间数据，消除重复计算问题。实验结果表明，STAG将更新阶段加速1.3倍~90.1倍，并以响应延迟的轻微增加大幅降低了陈旧时间。
引用
@article{arxiv.2309.15875,
title = {STAG: Enabling Low Latency and Low Staleness of GNN-based Services with Dynamic Graphs},
author = {Jiawen Wang and Quan Chen and Deze Zeng and Zhuo Song and Chen Chen and Minyi Guo},
journal= {arXiv preprint arXiv:2309.15875},
year = {2023}
}