PiRank：基于可微排序的可扩展学习排序方法
机器学习
2021-11-30 v2 人工智能
信息检索
摘要
排序的机器学习方法面临的一个关键挑战是，所关注性能指标与可用基于梯度方法优化的替代损失函数之间的差距。该差距源于排序指标通常包含对模型参数不可微的排序操作。已有工作提出的替代函数与排序指标关联松散，或为其简单平滑版本，且常无法扩展到实际应用。我们提出PiRank，一类用于排序的新型可微替代函数，其基于NeuralSort[1]采用受温度控制的连续松弛来逼近排序算子。我们证明PiRank在零温度极限下精确恢复所需指标，并进一步提出一种分治扩展，在理论与实践中均对大列表规模具有良好的扩展性。在经验上，我们展示了训练期间更大列表规模的作用，并表明PiRank在公开可用的互联网规模学习排序基准上显著优于可比方法。
引用
@article{arxiv.2012.06731,
title = {PiRank: Scalable Learning To Rank via Differentiable Sorting},
author = {Robin Swezey and Aditya Grover and Bruno Charron and Stefano Ermon},
journal= {arXiv preprint arXiv:2012.06731},
year = {2021}
}