解决个性化排序中的类不平衡问题
信息检索
2020-09-09 v2 机器学习
摘要
成对排序模型已被广泛用于解决推荐问题。其基本思想是通过将物品划分为正样本(若存在用户-物品交互)和负样本(否则)来学习用户偏好物品的排序。由于可观测交互数量有限,成对排序模型面临严重的类不平衡问题。我们的理论分析表明,当前基于采样的方法导致了顶点级不平衡问题,使得学习到的物品嵌入范数在若干训练迭代后趋于无穷,并进而导致梯度消失并影响模型推断结果。因此我们提出一种高效的至关重要负采样器(VINS)来缓解成对排序模型(尤其是基于梯度方法优化的深度学习模型)的类不平衡问题。VINS的核心是一个带拒绝概率的偏置采样器,其倾向于接受比给定正物品度数权重更大的负候选。在多个真实数据集上的评估结果表明,所提采样方法将浅层到深层排序模型的训练过程加速了30%至50%,同时在top-N物品推荐中保持甚至提升了排序结果质量。
引用
@article{arxiv.2005.09272,
title = {Addressing Class-Imbalance Problem in Personalized Ranking},
author = {Lu Yu and Shichao Pei and Chuxu Zhang and Shangsong Liang and Xiao Bai and Nitesh Chawla and Xiangliang Zhang},
journal= {arXiv preprint arXiv:2005.09272},
year = {2020}
}
备注
Preprint