SSD4Rec:用于高效顺序推荐的结构化状态空间对偶模型
信息检索
2025-01-17 v2
摘要
顺序推荐方法在现代推荐系统中发挥着关键作用,因其能够基于用户过去的交互来理解用户不断变化的兴趣。然而,当前方法(如基于 RNN 或 Transformer 的模型)面临的一个重要挑战是有效且高效地通过建模长行为序列来捕获用户偏好,这阻碍了其在用户交互频繁的短视频平台等场景的 various applications。最近,一种新兴架构 named Mamba,基于状态空间模型(SSM)并具有硬件感知设计,展示了在序列建模方面的巨大潜力,为有效地解决上述挑战提供了具有吸引力的途径。致力于此,我们提出一种新型通用且高效的序列推荐后端架构 SSD4Rec,探索 Mamba 为顺序推荐所需的无缝适配。具体而言,SSD4Rec 通过序列寄存器标记可变且长长度的物品序列,并通过双向结构化状态空间对偶(SSD)块处理物品表示。这不仅允许硬件感知的矩阵乘法,也使模型在可变长度和长程序列建模方面具有卓越的能力。对四个基准数据集进行的广泛评估表明,所提出的模型在保持与用户序列长度近线性可扩展性的同时,实现了最先进的性能。我们的代码已公开于 https://github.com/ZhangYifeng1995/SSD4Rec。
引用
@article{arxiv.2409.01192,
title = {SSD4Rec: A Structured State Space Duality Model for Efficient Sequential Recommendation},
author = {Haohao Qu and Yifeng Zhang and Liangbo Ning and Wenqi Fan and Qing Li},
journal= {arXiv preprint arXiv:2409.01192},
year = {2025}
}
备注
Significant revisions have been implemented in our paper, particularly focusing on both the methodology and experimental sections