面向大规模动态图的推荐即时表示学习
信息检索
2023-05-31 v1 机器学习
摘要
推荐系统能够基于用户和物品的历史行为表示来学习用户偏好。为改进表示学习,近期的推荐模型开始利用用户表现出的多种行为类型的信息。在真实场景中,用户行为图不仅是多层的(multiplex)而且是动态的,即图随时间快速演化,各类节点与边被添加或删除,这导致了邻域扰动(Neighborhood Disturbance)。然而,大多数现有方法忽视了此类流式动态性,因而一旦图发生显著演化便需重新训练,使其不适用于在线学习环境。此外,动态图中存在的邻域扰动会恶化基于邻域聚合的图模型性能。为此,我们提出 SUPA,一种面向动态多层异质图的新型图神经网络。与邻域聚合架构相比,SUPA 开发了采样-更新-传播(sample-update-propagate)架构以缓解邻域扰动。具体而言,对于每条新边,SUPA 采样一个受影响的子图,更新两个交互节点的表示,并将交互信息传播至采样子图。进一步,为在线上增量训练 SUPA,我们提出 InsLearn,一种用于大规模动态图单遍训练的高效工作流。在六个真实数据集上的大量实验结果表明,SUPA 具有良好的泛化能力,并优于十六种最先进(state-of-the-art)的基线方法。源代码见 https://github.com/shatter15/SUPA。
引用
@article{arxiv.2305.18622,
title = {Instant Representation Learning for Recommendation over Large Dynamic Graphs},
author = {Cheng Wu and Chaokun Wang and Jingcao Xu and Ziwei Fang and Tiankai Gu and Changping Wang and Yang Song and Kai Zheng and Xiaowei Wang and Guorui Zhou},
journal= {arXiv preprint arXiv:2305.18622},
year = {2023}
}
备注
ICDE 2023