Subagging 的精确有限抽样方差分解:谱滤波视角
机器学习
2026-04-14 v1
摘要
标准抽样比率(如 )已广泛用于三十年来 ensemble learning 中的默认基准。然而,这些比率如何与基学习器的内在函数复杂度在有限抽样中相互作用,缺乏精确的数学描述。我们利用 Hoeffding-ANOVA 分解,推导出适用于任意对称基学习器的 subagging 的第一个精确有限抽样方差分解,不要求渐近极限或光滑性假设。我们证明,subagging 作为确定性低通谱滤波器:它保留低阶结构信号,同时以几何因子逼近 抑制 阶交互方差。这一解耦揭示了为何默认基准常常欠正则化高容量插值器,插值器需要更小的 以指数级抑制虚噪声。为实施这些见解,我们提出一种基于复杂度引导的自适应抽样算法,实证表明,动态校准 以适应学习器的复杂度谱,始终优于静态基准。
引用
@article{arxiv.2604.10469,
title = {Exact Finite-Sample Variance Decomposition of Subagging: A Spectral Filtering Perspective},
author = {Ye Su and Mingrui Ye and Yining Wang and Jipeng Guo and Yong Liu},
journal= {arXiv preprint arXiv:2604.10469},
year = {2026}
}