泛化误差交叉验证估计器的训练/测试样本量最优性与重采样有效性

在构建泛化误差的交叉验证（CV）估计器时，一个重要的问题是能否建立规则以允许在固定样本量 $n$ 下“最优”地选择训练集的大小。我们将泛化误差随机 CV 估计器的重采样有效性定义为 CV 估计器方差的极限值与该方差从数据估计所得之比。不同平均测试集误差的方差与协方差与其索引无关，因此重采样有效性取决于随机 CV 估计器中使用的相关性和重复次数。我们讨论定义最优性的统计规则，并将“最优”训练样本量作为适当表述的优化问题的解获得。我们证明在广泛的损失函数类中，最优训练规模等于总样本量的一半，与数据分布无关。我们最优地选择 $k$ 折交叉验证中的折数，并提供一种计算程序以在分类情况下（通过逻辑回归）获得最优分割。我们从理论和经验两方面证实了我们的主张。