一种用于学习排序的交叉熵损失替代方案
机器学习
2021-02-08 v5 信息检索
机器学习
摘要
列表式学习排序方法构成了一类强大的排序算法，被广泛应用于信息检索等场景中。这些算法通过优化一个关于整个项目集合的损失函数来学习对一组项目排序——作为通常不可微排序度量的替代。尽管取得了经验上的成功，现有的列表式方法基于启发式且理论上仍缺乏深入理解。特别是，没有任何经验成功的损失函数与排序度量相关。在这项工作中，我们提出了一种基于交叉熵的学习排序损失函数，该函数在理论上是可靠的，是 NDCG（一种流行的排序度量）的凸界，并且在信息检索中常见的学习场景下与 NDCG 一致。此外，在基准学习排序数据集上使用梯度提升机对所提方法的实现进行经验评估，证明了我们提出的公式在质量和鲁棒性上优于现有算法。
引用
@article{arxiv.1911.09798,
title = {An Alternative Cross Entropy Loss for Learning-to-Rank},
author = {Sebastian Bruch},
journal= {arXiv preprint arXiv:1911.09798},
year = {2021}
}