装袋的平滑效应：装袋统计泛函的冯·米塞斯展开
机器学习
2016-12-09 v1
摘要
装袋（Bagging）是一种旨在降低学习算法预测误差的方法。其最简单的形式是：从训练样本中抽取自助样本，将学习算法应用于每个自助样本，然后平均所得预测规则。我们将装袋的定义从统计量扩展到统计泛函，并研究装袋统计泛函的冯·米塞斯（von Mises）展开。我们表明该展开与原始（未装袋）泛函的 Efron-Stein ANOVA 展开相关。基本观察是，装袋泛函总是光滑的，即其冯·米塞斯展开存在且长度为有限的 1 + 重采样大小 。即使原始泛函粗糙或不稳定，此结论也成立。重采样大小 充当平滑参数，其中较小的 意味着更强的平滑。
引用
@article{arxiv.1612.02528,
title = {Smoothing Effects of Bagging: Von Mises Expansions of Bagged Statistical Functionals},
author = {Andreas Buja and Werner Stuetzle},
journal= {arXiv preprint arXiv:1612.02528},
year = {2016}
}