一种基于层次化上下文注意力的 GRU 网络用于序列推荐
信息检索
2018-02-06 v3
摘要
序列推荐是 Web 应用中的基础任务之一。以往的方法大多基于具有强马尔可夫假设的马尔可夫链。近来,循环神经网络(RNNs)日益流行,并在许多任务中展现出其有效性。通常将最后一个隐藏状态作为序列的表示来进行推荐。得益于 RNN 的自然特性,隐藏状态在某种程度上是长期依赖与短期兴趣的结合。然而,RNN 的单调时间依赖损害了用户的短期兴趣。因此,隐藏状态不足以反映用户的最终兴趣。在这项工作中,为处理该问题,我们提出了一种层次化上下文注意力 GRU(HCA-GRU)网络。HCA-GRU 的第一层作用于输入。我们基于注意力机制利用若干近期输入构建上下文输入。这可以建模近期条目间的复杂关联并增强隐藏状态。第二层作用于隐藏状态。我们将当前隐藏状态与由注意力机制构建的上下文隐藏状态相融合,从而得到更合适的用户整体兴趣。在两个真实世界数据集上的实验表明,HCA-GRU 能有效生成个性化排序列表并取得显著提升。
引用
@article{arxiv.1711.05114,
title = {A Hierarchical Contextual Attention-based GRU Network for Sequential Recommendation},
author = {Qiang Cui and Shu Wu and Yan Huang and Liang Wang},
journal= {arXiv preprint arXiv:1711.05114},
year = {2018}
}