重新思考协同度量学习：一种无负采样的高效替代方案
机器学习
2022-06-24 v1 信息检索
摘要
近年来提出的协同度量学习（CML）范式因其简洁性和有效性在推荐系统（RS）领域引起了广泛关注。通常，现有 CML 文献在很大程度上依赖于\textit{负采样}策略来缓解成对计算的时间消耗负担。然而，在这项工作中，通过理论分析，我们发现负采样会导致对泛化误差的有偏估计。具体而言，我们表明基于采样的 CML 会在泛化界中引入一个偏置项，该偏置项由负采样所诱导的分布与真实分布之间的每用户\textit{总方差}（TV）来量化。这表明即使训练数据足够大，优化基于采样的 CML 损失函数也不能保证较小的泛化误差。此外，我们表明若无负采样策略，该偏置项将消失。受此启发，我们提出了一种无负采样的高效 CML 替代方案，称为\textit{无采样协同度量学习}（SFCML），以在实际意义上摆脱采样偏置。最后，在七个基准数据集上的综合实验证明了所提算法的优越性。
引用
@article{arxiv.2206.11549,
title = {Rethinking Collaborative Metric Learning: Toward an Efficient Alternative without Negative Sampling},
author = {Shilong Bao and Qianqian Xu and Zhiyong Yang and Xiaochun Cao and Qingming Huang},
journal= {arXiv preprint arXiv:2206.11549},
year = {2022}
}