中文

F-SVM:通过凸松弛结合特征变换与 SVM 学习

机器学习 2015-04-21 v1 计算机视觉与模式识别

摘要

支持向量机 (SVM) 的泛化误差界取决于半径与间隔的比值,而标准 SVM 仅考虑间隔最大化却忽略了半径最小化。已有几种方法提出整合半径与间隔以联合学习特征变换和 SVM 分类器。然而,这些方法大多要求变换矩阵为对角形式,或是非凸且计算昂贵的。在本文中,我们提出了一种特征空间中最小包围球 (MEB) 半径的新颖近似方法,进而提出了一种基于凸半径 - 间隔的 SVM 模型,用于联合学习特征变换和 SVM 分类器,即 F-SVM。我们采用交替最小化方法求解 F-SVM 模型,其中特征变换通过梯度下降更新,分类器则利用现有的 SVM 求解器进行更新。结合核主成分分析,F-SVM 被进一步扩展用于联合学习非线性变换和分类器。在 UCI 机器学习数据集和 LFW 人脸数据集上的实验结果表明,F-SVM 优于标准 SVM 以及现有的基于半径 - 间隔的 SVM 方法,例如 RMM、R-SVM+ 和 R-SVM+{\mu}。

关键词

引用

@article{arxiv.1504.05035,
  title  = {F-SVM: Combination of Feature Transformation and SVM Learning via Convex Relaxation},
  author = {Xiaohe Wu and Wangmeng Zuo and Yuanyuan Zhu and Liang Lin},
  journal= {arXiv preprint arXiv:1504.05035},
  year   = {2015}
}

备注

11 pages, 5 figures