平滑牛顿法用于0/1损失优化的二次收敛性
最优化与控制
2021-12-20 v4
摘要
人们已广泛认识到，0/1损失函数是刻画分类误差最自然的选择之一，并且具有广泛的应用，包括支持向量机和1-bit压缩感知。由于0/1损失函数的组合性质，基于凸松弛或平滑近似的方法主导了现有研究，并且通常能够提供高质量的近似解。然而，这些方法并未直接优化0/1损失函数，因此未能为原问题建立最优性。本文旨在研究0/1函数最小化的最优性条件，并首次提出直接在合理条件下以局部二次收敛优化0/1函数的牛顿法。大量数值实验展示了其如牛顿型方法所预期的优越性能。大量数值实验展示了其如牛顿型方法所预期的优越性能。
引用
@article{arxiv.2103.14987,
title = {Quadratic Convergence of Smoothing Newton's Method for 0/1 Loss Optimization},
author = {Shenglong Zhou and Lili Pan and Naihua Xiu and Houduo Qi},
journal= {arXiv preprint arXiv:2103.14987},
year = {2021}
}