中文

基于约束元最优传输的学习重排序方法

机器学习 2023-05-02 v1

摘要

搜索系统中的许多重排序策略依赖于随机排序策略,其编码为双随机(Doubly-Stochastic, DS)矩阵,在期望上满足所需的排序约束,例如曝光公平性(Fairness of Exposure, FOE)。这些策略通常是两阶段流水线:\emph{i)} 离线重排序策略构建步骤和 \emph{ii)} 在线排序采样步骤。构建重排序策略需要对每个发出的查询反复求解一个约束优化问题。因此,对于任何新的/未见的查询,都必须重新计算优化过程。关于采样,Birkhoff-von-Neumann 分解(BvND)是从任何基于 DS 的策略中抽取排序的首选方法。然而,BvND 在线计算代价过高。因此,作为采样解的 BvND 内存消耗大,因为其对于 NN 个查询和 nn 个文档可增长为 \gO(Nn2)\gO(N\, n^2)。本文提出了一种新颖、快速、轻量的预测公平随机重排序策略的方法:约束元最优传输(Constrained Meta-Optimal Transport, CoMOT)。该方法像学习排序(learning-to-rank)系统一样拟合一个跨查询共享的神经网络。我们还引入了 Gumbel-Matching 采样(GumMS),一种从基于 DS 的策略进行在线采样的方法。我们提出的流水线 CoMOT + GumMS 仅需存储单个模型的参数,并且可泛化到未见查询。我们在 TREC 2019 和 2020 数据集上于 FOE 约束下对流水线进行了实证评估。我们的实验表明,CoMOT 在留出数据上快速预测公平重排序策略,加速比与每查询平均文档数成正比。它还展现出与原始基于优化的策略相似的公平性和排序性能。此外,我们实证验证了 GumMS 在期望上近似基于 DS 的策略的有效性。

关键词

引用

@article{arxiv.2305.00319,
  title  = {Learning to Re-rank with Constrained Meta-Optimal Transport},
  author = {Andrés Hoyos-Idrobo},
  journal= {arXiv preprint arXiv:2305.00319},
  year   = {2023}
}