Mamba用于可扩展且高效的个性化推荐

本研究提出使用Mamba模型处理个性化推荐系统中的表格数据。我们提出了\textit{FT-Mamba}（特征标记器+Mamba），一种新型混合模型，通过替换FT-Transformer架构中的Transformer层为Mamba层，来处理个性化推荐系统中的表格数据。Mamba模型相较于Transformer提供了高效替代方案，通过增强状态空间模型（SSM）的能力，将计算复杂度从二次降低到线性。FT-Mamba旨在提高推荐系统的可扩展性和效率，同时保持性能。我们在三个数据集上对FT-Mamba进行评估：Spotify音乐推荐、H&M时尚推荐以及疫苗信息推荐。每个模型在160,000组用户行为对上进行训练，性能通过精确率（P）、召回率（R）、平均倒数排名（MRR）和命中率（HR）等指标在多个截断值处进行评估。我们的结果表明，FT-Mamba在计算效率方面优于基于Transformer的模型，同时在关键推荐指标上保持或超越其性能。通过利用Mamba层，FT-Mamba为大规模个性化推荐系统提供了可扩展且高效的解决方案，展示了Mamba架构在提升效率和准确性方面的潜力。