随机 Top-k ListNet
信息检索
2015-11-03 v1 机器学习
摘要
ListNet 是一种著名的列表级排序学习模型,近年来备受关注。然而,ListNet 的一个特定问题在于模型训练的计算复杂度高,这主要是由于在计算梯度时涉及大量对象排列。本文提出一种随机 ListNet 方法,其在有界排列子集内计算梯度。该方法显著降低了模型训练的计算复杂度,并允许扩展到 Top-k 模型,而基于全集合排列的传统实现无法做到这一点。同时,新方法利用了人工标签的部分排序信息,有助于提升模型质量。我们的实验表明,随机 ListNet 方法确实带来了更好的排序性能,并显著加快了模型训练。
引用
@article{arxiv.1511.00271,
title = {Stochastic Top-k ListNet},
author = {Tianyi Luo and Dong Wang and Rong Liu and Yiqiao Pan},
journal= {arXiv preprint arXiv:1511.00271},
year = {2015}
}