通过最小化 VC 维的精确界学习超平面回归器
机器学习
2017-05-02 v1
摘要
学习机器的容量由其 Vapnik-Chervonenkis (VC) 维衡量，低 VC 维的学习机器具有更好的泛化能力。众所周知，支持向量机 (SVM) 的 VC 维可能非常大甚至无界，尽管它们通常能产生最先进的学习性能。在本文中，我们展示了如何通过最小化其 VC 维的精确界或 界来学习超平面回归器。所提出的方法称为最小复杂度机器 (MCM) 回归器，涉及求解一个简单的线性规划问题。实验结果表明，在多个基准数据集上，该方法产生的回归器误差率远低于传统 SVM 回归器，同时通常使用更少的支持向量。在某些基准数据集上，支持向量的数量不到 SVM 所用数量的十分之一，表明 MCM 确实学习到了更简单的表示。
引用
@article{arxiv.1410.4573,
title = {Learning a hyperplane regressor by minimizing an exact bound on the VC dimension},
author = {Jayadeva and Suresh Chandra and Siddarth Sabharwal and Sanjit S. Batra},
journal= {arXiv preprint arXiv:1410.4573},
year = {2017}
}
备注
see http://www.sciencedirect.com/science/article/pii/S0925231214010194 or arXiv:1408.2803 for background information