AUC 优化与协同过滤
机器学习
2015-08-26 v1 机器学习
摘要
在推荐系统中，人们关注的是预测项目的排序，而非均方误差等其他损失。尽管文献中存在多种评估排序的方法，但本文我们关注 ROC 曲线下面积（AUC），因为它被广泛使用且具有坚实的理论基础。在实际推荐中，只有排在列表顶部的项目会呈现给用户。考虑到这一点，我们提出了一类基于矩阵分解的目标函数，它们主要作为真实 AUC 的平滑替代，并在一种特殊情况下展示了如何优先处理列表顶部。这些目标函数是可微的，并通过精心设计的基于随机梯度下降的算法进行优化，该算法的复杂度随数据规模呈线性增长。在平方损失的特例中，我们展示了如何利用先前计算的度量来改善计算复杂度。为了在理论上理解底层的矩阵分解方法，我们研究了损失函数相对于 AUC 的一致性，以及使用 Rademacher 理论的泛化能力。由此产生的泛化分析为所研究的优化提供了强有力的动机。最后，我们使用合成数据和真实数据提供了关于所提方法有效性的计算结果。
引用
@article{arxiv.1508.06091,
title = {AUC Optimisation and Collaborative Filtering},
author = {Charanpal Dhanjal and Romaric Gaudel and Stephan Clemencon},
journal= {arXiv preprint arXiv:1508.06091},
year = {2015}
}