中文

位置编码不同于上下文:关于序列推荐中位置编码的研究

信息检索 2025-01-22 v2 人工智能

摘要

流媒体和电子商务的快速增长推动了推荐系统的发展,特别是序列推荐系统。这些系统利用用户的交互历史来预测未来的偏好。虽然最近的研究集中在架构创新上,如Transformer块和特征提取,但用于捕捉时间模式的关键位置编码却较少受到关注。这些编码常常与上下文(如时间足迹)混为一谈,以往的工作倾向于将时间足迹视为与位置信息可互换。本文强调了时间足迹和位置编码之间的关键区别,证明后者提供了项目之间的独特关系线索,而仅靠时间足迹无法提供。通过在八个亚马逊数据集及其子集上的大量实验,我们评估了各种编码对性能指标和训练稳定性的影响。我们引入了新的位置编码,并研究了提高指标和稳定性的集成策略,超过了本工作初始预印本时的最新结果。重要的是,我们证明了选择合适的编码不仅是获得更好性能的关键,而且对于构建稳健可靠的序列推荐系统模型至关重要。

关键词

引用

@article{arxiv.2405.10436,
  title  = {Positional encoding is not the same as context: A study on positional encoding for sequential recommendation},
  author = {Alejo Lopez-Avila and Jinhua Du and Abbas Shimary and Ze Li},
  journal= {arXiv preprint arXiv:2405.10436},
  year   = {2025}
}

备注

18 pages, 6 figures, 21 tables