NeuralNDCG：通过排序的可微松弛直接优化排序指标
信息检索
2021-05-25 v2
摘要
排序学习（LTR）算法通常使用信息检索指标进行评估，如归一化折损累计增益（NDCG）或平均精度均值。由于这些指标依赖于对预测条目得分的排序（因而依赖于条目的排名），其导数要么无定义，要么处处为零。这使得它们不适合基于梯度的优化，而后者是学习合适评分函数的常用方法。常用的 LTR 损失函数仅与评估指标松散相关，导致优化目标与评估准则之间的不匹配。在本文中，我们通过提出 NeuralNDCG 来解决这种不匹配，这是一种新颖的 NDCG 可微近似。由于 NDCG 依赖于不可微的排序算子，我们使用 NeuralSort（排序的可微近似）对该算子进行松弛，从而得到 NeuralNDCG。结果，我们获得了一种新的排序损失函数，它是评估指标的任意精确近似，从而缩小了 LTR 模型训练与评估之间的差距。我们引入了所提损失函数的两种变体。最后，实证评估表明，我们提出的方法优于先前旨在直接优化 NDCG 的工作，并且与最先进的方法具有竞争力。
引用
@article{arxiv.2102.07831,
title = {NeuralNDCG: Direct Optimisation of a Ranking Metric via Differentiable Relaxation of Sorting},
author = {Przemysław Pobrotyn and Radosław Białobrzeski},
journal= {arXiv preprint arXiv:2102.07831},
year = {2021}
}
备注
12 pages, 2 figures