带有Universum数据的多任务孪生支持向量机
机器学习
2022-06-23 v1 最优化与控制
摘要
多任务学习(MTL)近年来已成为机器学习中一个有前景的方向，旨在利用有益信息提升多个相关学习任务的性能。在训练阶段，大多数现有多任务学习模型完全集中于目标任务数据，而忽略目标任务中所含的非目标任务数据。为解决此问题，可将不属于分类问题任何类别的Universum数据用作训练模型中的先验知识。本研究考察利用Universum数据的多任务学习挑战，以运用非目标任务数据从而获得更好性能。提出一种带有Universum数据的多任务孪生支持向量机(UMTSVM)，并给出两种求解途径。第一种途径考虑UMTSVM的对偶形式，试图求解一个二次规划问题。第二种途径构造UMTSVM的最小二乘版本，称为LS-UMTSVM，以进一步提升泛化性能。LS-UMTSVM中两个原始问题的求解被简化为仅解两个线性方程组，从而得到极为简单快速的方法。在多个流行多任务数据集与医学数据集上的数值实验证明了所提方法的效率。
关键词
引用
@article{arxiv.2206.10978,
title = {Multi-task twin support vector machine with Universum data},
author = {Hossein Moosaei and Fatemeh Bazikar and Milan Hladík},
journal= {arXiv preprint arXiv:2206.10978},
year = {2022}
}