哪些技巧对学习排序至关重要?
机器学习
2023-10-10 v2
摘要
如今,最先进的学习排序(learning-to-rank)方法基于梯度提升决策树(GBDT)。最著名的算法是十多年前提出的LambdaMART。近来,另有若干基于GBDT的排序算法被提出。本文中,我们在统一设定下透彻分析这些方法。具体而言,我们探讨以下问题:直接优化平滑排序损失是否优于优化凸替代损失?如何恰当地构造并平滑替代排序损失?为回答这些问题,我们将LambdaMART与YetiRank及StochasticRank方法及其变体进行比较。我们还提出了对YetiRank方法的一个简单改进,使其能优化特定的排序损失函数。最终,我们获得了对学习排序技术的深入认识,并得到了一个新的最先进算法。
引用
@article{arxiv.2204.01500,
title = {Which Tricks Are Important for Learning to Rank?},
author = {Ivan Lyzhin and Aleksei Ustimenko and Andrey Gulin and Liudmila Prokhorenkova},
journal= {arXiv preprint arXiv:2204.01500},
year = {2023}
}