面向 CTR 预测的终身全行为深度群体兴趣建模
信息检索
2024-10-30 v2 人工智能
摘要
从用户的终身行为序列中提取兴趣对于预测点击率(CTR)至关重要。当前大多数方法为效率采用两阶段流程:首先筛选与候选物品相关的历史行为,再从该缩减后的行为子序列推断用户兴趣。这一两阶段范式虽有效,却导致信息损失。仅使用用户的终身点击行为无法完整刻画其兴趣,导致次优性能。在本研究中,我们提出深度群体兴趣网络(DGIN),一种端到端建模用户完整行为历史的方法。该历史涵盖注册后的所有动作,如点击、加购、购买等,从而提供精细的用户理解。我们首先使用相关键(如 item_id)对全量行为分组以提升效率,将行为长度从 O(10^4) 显著缩减至 O(10^2)。为缓解分组带来的潜在信息损失,我们引入两类群体属性:在各群体内计算多种异构行为(如行为计数)的统计信息,并采用自注意力机制凸显独特行为特征(如行为类型)。基于这一重构的行为数据,利用 Transformer 技术推导用户兴趣。此外,我们从终身行为序列中识别出与候选物品具有相同 item_id 的行为子集,该子集所揭示的用户决策过程可提升预测精度。我们在工业与公开数据集上的综合评估验证了 DGIN 的有效性与高效性。
引用
@article{arxiv.2311.10764,
title = {Deep Group Interest Modeling of Full Lifelong User Behaviors for CTR Prediction},
author = {Qi Liu and Xuyang Hou and Haoran Jin and Xiaolong Chen and Jin Chen and Defu Lian and Zhe Wang and Jia Cheng and Jun Lei},
journal= {arXiv preprint arXiv:2311.10764},
year = {2024}
}