中文

强化嵌入式检索在工业推荐系统中的鲁棒训练目标

信息检索 2024-09-24 v1 机器学习

摘要

改进推荐系统(RS)可显著提升跨多个领域的用户体验,如社交媒体。许多RS采用基于嵌入的检索(EBR)方法进行候选检索。在EBR系统中,嵌入质量至关重要。根据最新文献,自监督多任务学习(SSMTL)在嵌入学习方面表现突出,在多个下游任务中均取得整体性改进,显示出对各下游任务之间不利条件的更大韧性,通过训练目标实现更高的鲁棒性和任务泛化能力。然而,SSMTL在学术基准测试中的成功是否能在大规模(即数亿用户及其间交互)的工业RS中实现仍需验证。仅采用学术设置用于工业RS可能带来两个问题。首先,许多自监督目标需要对大量用户和物品进行数据增强(如嵌入遮蔽/损坏),这在工业RS中代价高昂。其次,某些自监督目标可能不与推荐任务一致,可能导致冗余计算开销或负迁移。在充分考虑上述挑战后,本研究在社交媒体平台的大型好友推荐系统上评估了鲁棒训练目标(特别是SSMTL),以验证其在规模化环境中提升检索性能的可行性。通过基于SSMTL的EBR进行在线A/B测试,我们观察到关键指标实现统计显著提升,新建好友数提升最高可达5.45%,对冷启动用户的新建好友数提升1.91%。

关键词

引用

@article{arxiv.2409.14682,
  title  = {Robust Training Objectives Improve Embedding-based Retrieval in Industrial Recommendation Systems},
  author = {Matthew Kolodner and Mingxuan Ju and Zihao Fan and Tong Zhao and Elham Ghazizadeh and Yan Wu and Neil Shah and Yozen Liu},
  journal= {arXiv preprint arXiv:2409.14682},
  year   = {2024}
}

备注

RobustRecSys workshop @ RecSys 2024