SIGMA：用于序列推荐的 Selective Gated Mamba
人工智能
2024-12-25 v4
摘要
在各个领域，序列推荐系统（SRS）因其辨别复杂用户偏好的卓越能力而变得至关重要。通常，SRS 利用基于 Transformer 的架构来预测序列中的下一个项目。然而，这些模型固有的二次计算复杂度往往导致效率低下，阻碍实时推荐的实现。Mamba 是最近的一项进展，在时间序列预测中表现出色，显著提升了效率和准确性。然而，将 Mamba 直接集成到 SRS 中面临若干挑战。其固有的单向性质可能限制模型捕捉用户-物品交互完整上下文的能力，而其在状态估计中的不稳定性可能损害其检测交互序列中短期模式的能力。为了解决这些问题，我们引入了一个名为 Selective Gated Mamba（SIGMA）的新框架，用于序列推荐。该框架利用部分翻转 Mamba（PF-Mamba）构建专门用于改善上下文建模的双向架构。此外，采用输入敏感的密集选择门（DS Gate）来优化方向权重并增强 PF-Mamba 中的序列信息处理。对于短序列建模，我们还开发了特征提取 GRU（FE-GRU）来高效捕捉短期依赖。实证结果表明，SIGMA 在五个真实数据集上优于当前模型。我们的实现代码可在 https://github.com/ziwliu-cityu/SIMGA 获取，以方便复现。
引用
@article{arxiv.2408.11451,
title = {SIGMA: Selective Gated Mamba for Sequential Recommendation},
author = {Ziwei Liu and Qidong Liu and Yejing Wang and Wanyu Wang and Pengyue Jia and Maolin Wang and Zitao Liu and Yi Chang and Xiangyu Zhao},
journal= {arXiv preprint arXiv:2408.11451},
year = {2024}
}