RKHS 上约束最小二乘估计器的 Goldenshluger-Lepski 方法

我们在再生核希尔伯特空间（RKHS）回归的背景下研究一种称为 Goldenshluger-Lepski 方法的自适应估计过程。自适应估计提供了一种仅利用可用数据来选择统计估计器调谐参数的方法。这使我们能够在不对估计目标做强假设的情况下进行估计。与训练和验证等过程不同，Goldenshluger-Lepski 方法使用全部数据来产生一系列调谐参数值下的非自适应估计器。通过对这些非自适应估计器进行两两比较来选取自适应估计器。应用 Goldenshluger-Lepski 方法并非易事，因为它需要所有两两比较的同步高概率界。在 RKHS 回归背景下，我们选取的非自适应估计器是约束在 RKHS 中一个球内的截断最小二乘估计器。由于不能使用未知的 $L^2$ 范数来进行两两比较，在此背景下应用 Goldenshluger-Lepski 方法更为复杂。我们用该方法处理两个回归问题。第一个问题中 RKHS 是固定的，而第二个问题中我们在一组 RKHS 上自适应。