用于分类的多任务非平行支持向量机
机器学习
2022-04-08 v1
摘要
直接多任务孪生支持向量机(DMTSVM)挖掘多个相关任务之间的共享信息,从而获得更好的泛化性能。然而,其在求解对偶问题时包含矩阵求逆运算,因此耗费大量运行时间。此外,核技巧在非线性情形下无法直接利用。为有效避免上述问题,本文提出一种新颖的多任务非平行支持向量机(MTNPSVM),包含线性和非线性情形。通过在 DMTSVM 中引入 ε-不敏感损失替代平方损失,MTNPSVM 有效避免了矩阵求逆运算并充分利用了核技巧。进一步讨论了模型的理论含义。为进一步提高计算效率,在求解对偶问题时采用交替方向乘子法(ADMM)。给出了算法的计算复杂度和收敛性。此外,进一步探讨了模型中参数的性质与敏感性。在十五个基准数据集和十二个图像数据集上的实验结果表明,与最先进的算法相比,MTNPSVM 的有效性。最后,将其应用于真实的中国葡萄酒数据集,也验证了其有效性。
引用
@article{arxiv.2204.02972,
title = {Multi-task nonparallel support vector machine for classification},
author = {Zongmin Liu and Yitian Xu},
journal= {arXiv preprint arXiv:2204.02972},
year = {2022}
}