用于Huber化支持向量机的近端梯度法
机器学习
2015-12-01 v1 机器学习
数值分析
数值分析
摘要
支持向量机（SVM）已广泛应用于各类分类问题。原始 SVM 使用铰链损失函数（hinge loss），其不可微，使得问题难以求解，特别是对于带正则化的 SVM，例如 -正则化。本文考虑 Huber 化 SVM（HSVM），其使用铰链损失函数的可微近似。我们首先探索使用近端梯度（PG）方法求解二分类 HSVM（B-HSVM），然后将其推广到多分类 HSVM（M-HSVM）。在强凸假设下，我们证明算法线性收敛。此外，我们给出了关于解的支持集的有限收敛结果，并基于此通过两阶段方法进一步加速算法。我们在合成与真实数据集上进行了大量数值实验，证明了我们的方法相对于一些最先进的二分类和多分类 SVM 方法的优越性。
引用
@article{arxiv.1511.09159,
title = {Proximal gradient method for huberized support vector machine},
author = {Yangyang Xu and Ioannis Akrotirianakis and Amit Chakraborty},
journal= {arXiv preprint arXiv:1511.09159},
year = {2015}
}
备注
in Pattern analysis and application, 2015