中文

Subagging 的精确有限抽样方差分解:谱滤波视角

机器学习 2026-04-14 v1

摘要

标准抽样比率(如 α0.632\alpha \approx 0.632)已广泛用于三十年来 ensemble learning 中的默认基准。然而,这些比率如何与基学习器的内在函数复杂度在有限抽样中相互作用,缺乏精确的数学描述。我们利用 Hoeffding-ANOVA 分解,推导出适用于任意对称基学习器的 subagging 的第一个精确有限抽样方差分解,不要求渐近极限或光滑性假设。我们证明,subagging 作为确定性低通谱滤波器:它保留低阶结构信号,同时以几何因子逼近 αc\alpha^c 抑制 cc 阶交互方差。这一解耦揭示了为何默认基准常常欠正则化高容量插值器,插值器需要更小的 α\alpha 以指数级抑制虚噪声。为实施这些见解,我们提出一种基于复杂度引导的自适应抽样算法,实证表明,动态校准 α\alpha 以适应学习器的复杂度谱,始终优于静态基准。

关键词

引用

@article{arxiv.2604.10469,
  title  = {Exact Finite-Sample Variance Decomposition of Subagging: A Spectral Filtering Perspective},
  author = {Ye Su and Mingrui Ye and Yining Wang and Jipeng Guo and Yong Liu},
  journal= {arXiv preprint arXiv:2604.10469},
  year   = {2026}
}