限定分类器凸组合的泛化误差:平衡维度与间隔
概率论
2007-06-13 v1 统计理论
统计理论
摘要
本文考虑对分类器 f ∈ H 的泛化误差进行界定的问题,其中 H 为一“基”函数类(分类器)。该问题在机器学习中频繁出现,其中将简单分类器组合为复杂分类器的高效算法(如 boosting 与 bagging)已引起广泛关注。利用 Talagrand 经验过程的集中不等式,我们得到了关于组合分类器泛化误差的新的更紧的界,这些界同时考虑了“分类间隔”的经验分布与分类器的“近似维数”,并在若干学习算法的实验中研究了这些界的性能。
引用
@article{arxiv.math/0405345,
title = {Bounding the generalization error of convex combinations of classifiers: balancing the dimensionality and the margins},
author = {Vladimir Koltchinskii and Dmitry Panchenko and Fernando Lozano},
journal= {arXiv preprint arXiv:math/0405345},
year = {2007}
}
备注
35 pages, 7 figures