关于排序学习中的损失函数 Lipschitz 连续性与平滑性
机器学习
2016-09-14 v3 机器学习
摘要
在二分类和回归问题中，损失函数的 Lipschitz 连续性和平滑性在控制经验风险最小化算法的泛化误差界方面的关键作用已得到充分理解。在本文中，我们展示了这两个属性如何影响排序学习问题中的泛化误差界。排序学习问题涉及向量值预测，因此定义 Lipschitz 连续性和平滑性所依据的范数选择变得至关重要。在我们的 Lipschitz 连续性定义中选择 范数使我们能够改进现有的界。此外，在平滑性假设下，我们的选择使我们能够证明介于 和 速率之间的插值速率。将我们的结果应用于 ListNet（一种流行的排序学习方法）可提供最先进的性能保证。
引用
@article{arxiv.1405.0586,
title = {On Lipschitz Continuity and Smoothness of Loss Functions in Learning to Rank},
author = {Ambuj Tewari and Sougata Chaudhuri},
journal= {arXiv preprint arXiv:1405.0586},
year = {2016}
}
备注
This paper has been withdrawn as it was superseded by an ICML 2015 paper "Generalization error bounds for learning to rank: Does the length of document lists matter?" available as arXiv:1603.01860