中文

IFA:用于整个终身行为序列建模的交互保真注意力机制

信息检索 2024-06-17 v1

摘要

终身用户行为序列提供了丰富的用户偏好信息,并在推荐任务中取得显著的改进,但计算消耗大幅增加。在在线服务中面临严格的延迟要求时,通常会基于与目标物品的相似性对短子序列进行采样。然而,这会导致不在该子序列中的物品被放弃,造成严重的信息损失。本文提出了一种新的高效方法,用于对完整的终身序列进行建模,称为交互保真注意力机制(Interaction Fidelity Attention, IFA)。在IFA中,我们一次性将候选集中所有目标物品输入模型,并利用线性变换器来降低候选集与序列之间交叉注意力的时间复杂度,同时不损失任何交互信息。我们还额外建模所有目标物品之间的关系,以实现最优的集合生成,并设计损失函数以提高训练和推断之间的一致性。我们通过在快手的推荐系统中的离线和在线实验,展示了该模型的有效性和效率。

关键词

引用

@article{arxiv.2406.09742,
  title  = {IFA: Interaction Fidelity Attention for Entire Lifelong Behaviour Sequence Modeling},
  author = {Wenhui Yu and Chao Feng and Yanze Zhang and Lantao Hu and Peng Jiang and Han Li},
  journal= {arXiv preprint arXiv:2406.09742},
  year   = {2024}
}

备注

7 pages, 2 figures