基于个性化 Transformer 的时间协同排序
机器学习
2019-08-16 v1 信息检索
机器学习
摘要
协同排序问题一直是一个重要的开放性研究问题，因为大多数推荐问题都可以自然地表述为排序问题。尽管许多协同排序方法假设静态排序数据，但时间信息对提升排序性能的重要性日益明显。深度学习的近期进展，特别是在自然语言处理中广泛使用的 RNN 和 CNN 之外各种注意力机制和更新架构的发现，使我们能够更好地利用每个用户交互过的物品的时间顺序。具体而言，受自然语言处理中流行的 Transformer 模型启发的 SASRec 模型，在时间协同排序问题上取得了最先进的结果，并且与早期基于 CNN/RNN 的方法相比获得了超过 10 倍的加速。然而，SASRec 本质上是一个非个性化模型，不包含个性化的用户嵌入。为克服这一局限，我们提出了一种个性化 Transformer（SSE-PT）模型，在 5 个真实世界数据集上以 NDCG@10 衡量比 SASRec 高出近 5%。此外，在检查了一些随机用户的交互历史及推理阶段使用的相应注意力热图后，我们发现我们的模型不仅更具可解释性，还能够关注每个用户近期的交互模式。而且，我们稍作修改的 SSE-PT 模型（称为 SSE-PT++）能够处理极长序列，并在排序结果上优于 SASRec 且训练速度相当，在性能与速度需求之间取得平衡。代码和数据已开源：https://github.com/wuliwei9278/SSE-PT。
引用
@article{arxiv.1908.05435,
title = {Temporal Collaborative Ranking Via Personalized Transformer},
author = {Liwei Wu and Shuqing Li and Cho-Jui Hsieh and James Sharpnack},
journal= {arXiv preprint arXiv:1908.05435},
year = {2019}
}
备注
plan to submit for review