基于超分位数的学习:一种使用基于梯度优化的直接方法
最优化与控制
2022-01-04 v1
摘要
我们考虑一种赋予模型从训练到测试对分布偏移具有鲁棒性的监督学习公式。该公式依赖于超分位数风险度量,也称为条件风险价值(conditional value-at-risk),其在机器学习与信号处理近期应用中已显示出前景。我们表明,得益于对超分位数函数的直接平滑,基于超分位数的学习目标可使用批量优化算法(如梯度下降或拟牛顿算法)或随机优化算法(如随机梯度算法)进行基于梯度的优化。配套软件 SPQR 用 Python 实现了所述算法,并使从业者能够试验基于超分位数的监督学习。
引用
@article{arxiv.2201.00505,
title = {Superquantile-based learning: a direct approach using gradient-based optimization},
author = {Yassine Laguel and Jérôme Malick and Zaid Harchaoui},
journal= {arXiv preprint arXiv:2201.00505},
year = {2022}
}