面向二分类的稀疏 Universum 二次曲面支持向量机模型
机器学习
2021-04-06 v1 最优化与控制
摘要
在二分类中,无核线性或二次支持向量机被提出以避免处理诸如寻找合适核函数或调其超参数等困难。此外,不属于任何类别的 Universum 数据点可被利用,将先验知识嵌入相应模型从而改善泛化性能。本文中,我们设计新颖的无核 Universum 二次曲面支持向量机模型。进一步,我们提出 L1 范数正则化版本,其有利于检测二次曲面 Hessian 中的潜在稀疏模式,并在数据点(近似)线性可分时退化为标准线性模型。所提模型是凸的,从而可利用标准数值求解器求解。尽管如此,我们构建了 L1 范数正则化模型的最小二乘版本,并进而设计了一种仅需求解一个线性系统的有效定制算法。随后报告/证明了这些模型的若干理论性质。我们最终在人工与公共基准数据集上进行数值实验,以证明所提模型的可行性与有效性。
引用
@article{arxiv.2104.01331,
title = {Sparse Universum Quadratic Surface Support Vector Machine Models for Binary Classification},
author = {Hossein Moosaei and Ahmad Mousavi and Milan Hladík and Zheming Gao},
journal= {arXiv preprint arXiv:2104.01331},
year = {2021}
}