用于学习SVM型多类分类器的Frank-Wolfe算法
机器学习
2021-11-10 v1 机器学习
摘要
多类支持向量机(MC-SVM)是最流行的机器学习算法之一。尽管针对不同学习机开发了不同的优化算法，MC-SVM仍有许多变体。本研究开发了一种可应用于许多MC-SVM变体的新优化算法。该算法基于Frank-Wolfe框架，每次迭代需要两个子问题：方向寻找与线搜索。本研究的贡献在于发现，若将Frank-Wolfe框架应用于对偶问题，则两个子问题均有闭式解。此外，即便对于损失函数的Moreau包络，方向寻找与线搜索的闭式解也均存在。我们使用多个大型数据集证明所提优化算法收敛迅速，从而提升了模式识别性能。
引用
@article{arxiv.2008.08894,
title = {Frank-Wolfe algorithm for learning SVM-type multi-category classifiers},
author = {Kenya Tajima and Yoshihiro Hirohashi and Esmeraldo Ronnie Rey Zara and Tsuyoshi Kato},
journal= {arXiv preprint arXiv:2008.08894},
year = {2021}
}