通过共轭 SMO 加速 SVM 训练
最优化与控制
2020-03-20 v1 机器学习
摘要
我们提出了一种基于共轭下降过程的用于训练分类与回归 SVM 的 SMO 算法的改进版本。这种新方法仅涉及每次迭代计算代价的适度增加，但反过来通常导致收敛到给定精度所需迭代次数的大幅减少。此外，我们证明了这一新共轭 SMO 的迭代收敛性，以及当核矩阵正定时的线性收敛率。我们已在 LIBSVM 库中实现了共轭 SMO，并通过实验表明其在许多超参数配置下更快，在执行 SVM 调优的网格搜索时通常是比二阶 SMO 更好的选择。
引用
@article{arxiv.2003.08719,
title = {Faster SVM Training via Conjugate SMO},
author = {Alberto Torres-Barrán and Carlos Alaíz and José R. Dorronsoro},
journal= {arXiv preprint arXiv:2003.08719},
year = {2020}
}