支持向量网络的统计力学
无序系统与神经网络
2009-10-31 v2
摘要
利用统计物理方法,我们研究了支持向量机(SVMs)的泛化性能,该模型最近作为神经网络的一种通用替代方案被提出。对于非线性分类规则,当样本数量过少而无法正确估计非线性部分系数时,泛化误差会饱和在一个平台上。当在简单规则上训练时,我们发现 SVMs 仅发生微弱过拟合。当输入分布在特征空间中存在间隙时,SVMs 的性能得到显著增强。
引用
@article{arxiv.cond-mat/9811421,
title = {Statistical Mechanics of Support Vector Networks},
author = {Rainer Dietrich and Manfred Opper and Haim Sompolinsky},
journal= {arXiv preprint arXiv:cond-mat/9811421},
year = {2009}
}
备注
REVTeX, 4 pages, 2 figures, accepted by Phys. Rev. Lett (typos corrected)