面向序列推荐的频率增强混合注意力网络
信息检索
2023-05-18 v3
摘要
自注意力机制具有建模长程依赖的强大能力，是序列推荐领域广泛使用的技术之一。然而，许多近期研究表明，当前基于自注意力的模型是低通滤波器，不足以捕获高频信息。此外，由于用户行为中的物品相互交织，这些模型难以区分时域中隐含的固有周期性。在本工作中，我们将视角转换到频域，并提出一种用于序列推荐的新颖频率增强混合注意力网络，即 FEARec。在该模型中，我们首先在频域中以斜坡结构改进原始时域自注意力，使低频和高频信息均能在我们的方法中被显式学习。此外，我们额外通过频域中的自相关设计了一种类似的注意力机制，以捕获周期特征，并在统一模型中融合时域与频域级别的注意力。最后，采用对比学习和频率正则化来确保多个视图在时域和频域中对齐。在四个广泛使用的基准数据集上进行的大量实验表明，所提模型显著优于 SOTA 方法。
引用
@article{arxiv.2304.09184,
title = {Frequency Enhanced Hybrid Attention Network for Sequential Recommendation},
author = {Xinyu Du and Huanhuan Yuan and Pengpeng Zhao and Jianfeng Qu and Fuzhen Zhuang and Guanfeng Liu and Victor S. Sheng},
journal= {arXiv preprint arXiv:2304.09184},
year = {2023}
}
备注
11 pages, 7 figures, The 46th International ACM SIGIR Conference on Research and Development in Information Retrieval