用于大规模推荐系统中去偏候选生成的对比学习
信息检索
2021-06-07 v9 机器学习
社会与信息网络
机器学习
摘要
深度候选生成（DCG）通过表示学习将相关物品从数十亿缩减到数百，已在工业推荐系统中变得普遍。标准方法通过采样来近似最大似然估计（MLE）以获得更好的可扩展性，并以类似于语言建模的方式解决 DCG 问题。然而，线上推荐系统面临严重的曝光偏差，且词表比自然语言大几个数量级，这意味着 MLE 为了忠实拟合观测样本，从长远来看会保留甚至加剧曝光偏差。在本文中，我们从理论上证明，一种流行的对比损失选择等价于通过逆倾向加权来减少曝光偏差，这为理解对比学习的有效性提供了新视角。基于该理论发现，我们设计了 CLRec，一种对比学习方法，用于在候选规模极大的推荐系统中从公平性、有效性和效率方面改进 DCG。我们进一步改进 CLRec 并提出 Multi-CLRec，用于精确的多意图感知偏差消减。我们的方法已成功部署于淘宝，至少四个月的线上 A/B 测试与离线分析证明了其实质性改进，包括马太效应的显著减弱。
引用
@article{arxiv.2005.12964,
title = {Contrastive Learning for Debiased Candidate Generation in Large-Scale Recommender Systems},
author = {Chang Zhou and Jianxin Ma and Jianwei Zhang and Jingren Zhou and Hongxia Yang},
journal= {arXiv preprint arXiv:2005.12964},
year = {2021}
}
备注
Accepted by the 27th ACM SIGKDD Conference on Knowledge Discovery and Data Mining (KDD 2021)