基于压缩图神经网络的在线服务高效用户序列学习
机器学习
2024-06-06 v1 人工智能
摘要
学习用户行为序列的表示对各种在线服务至关重要,例如在线欺诈交易检测机制。图神经网络(GNN)已被广泛应用于建模序列关系,从相似序列中提取信息。尽管用户行为序列数据在在线应用中通常非常庞大,但直接应用 GNN 模型可能在训练和推理阶段导致显著的计算开销,难以满足在线服务的实时需求。在本文中,我们利用图压缩技术来缓解这一效率问题。具体地,我们提出一种新型统一框架,称为 ECSeq(ECSseq),将图压缩技术引入用户序列表示学习中的关系建模。ECSeq 的关键模块是序列关系建模,它探索序列之间的关系以增强序列表示学习,并采用图压缩算法实现高效和可扩展性。ECSeq 还具备即插即用特性,无需修改即可无缝增强预训练的序列表示模型。经验实验在序列分类和回归任务上均证明了 ECSeq 的有效性。具体而言,在 10 万+ 序列上,ECSeq 的额外训练时间仅为几秒,推理时间保持在 秒/样本,同时将广泛使用的 LSTM 的预测 R@P 提升约 5%。
引用
@article{arxiv.2406.02979,
title = {Efficient User Sequence Learning for Online Services via Compressed Graph Neural Networks},
author = {Yucheng Wu and Liyue Chen and Yu Cheng and Shuai Chen and Jinyu Xu and Leye Wang},
journal= {arXiv preprint arXiv:2406.02979},
year = {2024}
}
备注
Accepted by IEEE ICWS 2024