以带不确定性的分布建模序列的序列推荐方法
信息检索
2021-06-14 v1 人工智能
机器学习
摘要
用户交互中的序列模式对于表示用户偏好和捕捉物品间的潜在关系至关重要。近期基于 Transformer 的序列建模进展倡导学界为序列推荐设计更有效的编码器。大多数现有序列方法假设用户是确定性的。然而，物品-物品转移可能在若干物品方面显著波动，并表现出用户兴趣的随机性。这种随机特性强烈要求在表示序列和物品时纳入不确定性。此外，以不确定性对序列和物品建模扩展了用户与物品的交互空间，从而进一步缓解冷启动问题。在这项工作中，我们提出一种用于序列推荐的分布式 Transformer（DT4SR），将不确定性注入序列建模中。我们使用椭圆高斯分布来描述带不确定性的物品和序列。我们将物品和序列中的不确定性描述为椭圆高斯分布。并且我们采用 Wasserstein 距离来度量分布之间的相似性。我们设计了两种新颖的 Transformer 分别建模均值和协方差，从而保证分布的正定性质。所提方法显著优于最先进的方法。在三个基准数据集上的实验也证明了其在缓解冷启动问题上的有效性。代码可在 https://github.com/DyGRec/DT4SR 获取。
引用
@article{arxiv.2106.06165,
title = {Modeling Sequences as Distributions with Uncertainty for Sequential Recommendation},
author = {Ziwei Fan and Zhiwei Liu and Lei Zheng and Shen Wang and Philip S. Yu},
journal= {arXiv preprint arXiv:2106.06165},
year = {2021}
}