平均化分类器的泛化界
统计理论
2007-06-13 v1 统计理论
摘要
我们研究一种用于二分类的简单学习算法。与用假设类中最优假设（即最小化训练误差的假设）进行预测不同，我们的算法用所有假设的加权平均进行预测，权重相对于其训练误差呈指数形式。我们表明，该算法的预测比使用最优假设进行预测的算法要稳定得多。通过允许算法在某些样本上放弃预测，我们表明其在不放弃预测时所做出的预测是非常可靠的。最后，我们表明算法放弃预测的概率与该类中最优假设的泛化误差相当。
引用
@article{arxiv.math/0410092,
title = {Generalization bounds for averaged classifiers},
author = {Yoav Freund and Yishay Mansour and Robert E. Schapire},
journal= {arXiv preprint arXiv:math/0410092},
year = {2007}
}
备注
Published by the Institute of Mathematical Statistics (http://www.imstat.org) in the Annals of Statistics (http://www.imstat.org/aos/) at http://dx.doi.org/10.1214/009053604000000058