用于分类支持向量机半监督训练的责任加权马氏核
机器学习
2015-07-03 v2 机器学习
摘要
支持向量机（SVM）中的核函数需要评估输入样本的相似性以便例如对这些样本进行分类。除了标准核如高斯（即径向基函数，RBF）或多项式核之外，还有特定的核被定制以考虑数据中的结构进行相似性评估。在本文中，我们将通过概率混合密度模型（例如实值输入空间中的高斯混合）来捕获数据结构。从这些模型固有包含的距离度量（例如高斯混合中的马哈拉诺比斯距离）出发，我们推导出一个新核，即责任加权马哈拉诺比斯（RWM）核。基本上，该核强调了被比较的任意两个样本被认为源自的模型组件（即“责任”模型组件）的影响。我们将看到，在许多存在部分标记数据的应用中（即对于SVM的半监督训练），该核优于RBF核和其他捕获数据结构的内核（如拉普拉斯SVM中的LAP核）。其他关键优势是RWM核可以容易地与标准SVM实现和训练算法（如序列最小优化）一起使用，并且在C-SVM中用于RBF核参数化的启发式方法可以容易地转移到这个新核。RWM核的性质通过20个基准数据集和训练数据中不断增加比例的标记样本得到展示。
引用
@article{arxiv.1502.04033,
title = {The Responsibility Weighted Mahalanobis Kernel for Semi-Supervised Training of Support Vector Machines for Classification},
author = {Tobias Reitmaier and Bernhard Sick},
journal= {arXiv preprint arXiv:1502.04033},
year = {2015}
}