基于聚类的 RBF 核支持向量机
机器学习
2014-08-14 v1 机器学习
摘要
在经典的高斯支持向量机(SVM)分类中,我们使用特征空间投影将点转换为具有固定协方差矩阵的正态分布(标准 RBF 中为单位矩阵,马氏距离 RBF 中为整个数据集的协方差)。本文通过考虑依赖于局部几何结构的特征空间投影,为高斯 SVM 添加了额外信息。我们要强调的是,我们的方法实际上是一种构建新型高斯型核的算法。我们表明,在空间预先通过 k-means 划分为两个集合,且点被表示为根据数据集划分计算协方差的正态分布这一简单情况下,可以获得比标准 RBF 和马氏距离 RBF 更好的分类结果。我们将所构建的方法称为 CRBF,其中 代表 k-means 中使用的聚类数量。我们在来自 UCI 存储库的九个数据集上进行了实证研究,表明 CRBF 提高了网格搜索的稳定性(以找到良好参数的概率来衡量)。
引用
@article{arxiv.1408.2869,
title = {Cluster based RBF Kernel for Support Vector Machines},
author = {Wojciech Marian Czarnecki and Jacek Tabor},
journal= {arXiv preprint arXiv:1408.2869},
year = {2014}
}