高维空间中支持向量的增殖现象
统计理论
2022-06-15 v2 机器学习
机器学习
统计理论
摘要
支持向量机（SVM）是一种成熟的分类方法，其名称源于那些被称为支持向量的特定训练样本，它们决定了最大间隔分离超平面。已知当支持向量数量相对于训练样本数较少时，SVM 分类器具有良好的泛化性质。然而，近期研究表明，在足够高维的线性分类问题中，尽管出现支持向量增殖、所有训练样本皆为支持向量，SVM 仍能良好泛化。在本文中，我们为这一支持向量增殖现象确定了新的确定性等价关系，并用它们来 (1) 大幅拓宽该现象在高维设定下发生的条件，以及 (2) 证明一个近乎匹配的逆命题结果。
引用
@article{arxiv.2009.10670,
title = {On the proliferation of support vectors in high dimensions},
author = {Daniel Hsu and Vidya Muthukumar and Ji Xu},
journal= {arXiv preprint arXiv:2009.10670},
year = {2022}
}