基于不定相似性度量的大规模大间隔分类
机器学习
2014-05-28 v1 计算机视觉与模式识别
机器学习
摘要
尽管流行的核化支持向量机取得了成功,但它们存在两个主要局限性:仅限于正半定 (PSD) 核,且其训练复杂度随数据规模至少呈二次方增长。许多自然的样本对相似性度量并非 PSD,例如不变核,以及那些由隐变量模型隐式或显式定义的核。在本文中,我们研究了在大间隔框架中使用不定相似性度量的可扩展方法。特别地,我们证明了将相似性归一化到数据点的子集构成了适用于线性分类器的表示。由此产生的分类器在准确率上与核化 SVM 具有竞争力,同时具有更优的训练和测试时间复杂度。实验结果表明,在 CIFAR-10 数据集上,配备了对刚性和非刚性形变具有不变性的相似性度量的模型,其稀疏度可比使用 RBF 核的核化 SVM 提高 5 倍以上,同时准确率更高。
引用
@article{arxiv.1405.6922,
title = {Large Scale, Large Margin Classification using Indefinite Similarity Measures},
author = {Omid Aghazadeh and Stefan Carlsson},
journal= {arXiv preprint arXiv:1405.6922},
year = {2014}
}