个性化搜索中用于查询感知用户建模的去噪注意力机制
信息检索
2023-08-31 v1
摘要
得益于基于神经网络的信息检索方法的发展以及个性化在许多搜索场景中的重要性，搜索结果的个性化在过去几年中获得了越来越多的关注。近期工作提出在查询时利用注意力机制构建用户模型，该机制可权衡用户相关信息相对于当前查询的贡献。这种方法通过赋予与用户当前搜索更相关的兴趣更高权重，来考虑用户兴趣的多样性。在本文中，我们首先讨论标准注意力公式用于个性化时的一些缺陷。具体而言，我们关注与其归一化机制相关的issue以及其无法完全过滤噪声用户相关信息的问题。随后，我们引入去噪注意力机制：一种通过采用鲁棒归一化方案并引入过滤机制来直接解决上述缺陷的注意力变体。所报告的实验评估显示了该提出方法相对于其他基于注意力的变体的优势。
引用
@article{arxiv.2308.15968,
title = {Denoising Attention for Query-aware User Modeling in Personalized Search},
author = {Elias Bassani and Pranav Kasela and Gabriella Pasi},
journal= {arXiv preprint arXiv:2308.15968},
year = {2023}
}