基于包络引导的高维 multivariate 回归预测正则化

包络方法在 multivariate 回归中对预测变量或响应变量进行维数约简，利用它们之间的关系来提高估计效率。虽然大多数关于包络的研究都 focuses 其估计属性，但某些包络估计器在低维和高维情况下都表现出色。在本文中，我们提出了通过包络引导正则化（EgReg）进一步提高预测，通过该方法利用包络所致的信息指导沿预测矩阵的主成分（PC）进行收缩。我们将 EgReg 置于其他基于 PC 的回归方法和包络方法之间，以激发其开发。我们证明，当预测变量数目 $p$ 与观测数 $n$ 固定时，EgReg 在任何情况下都比与之 closely related 的非收缩包络估计器具有更低的预测风险。在一个渐近 regime 中，其中真实的预测变量内在维度与 $n$ 按比例发散时，我们发现非收缩包络估计器的极限预测风险呈现双下降现象，并且持续大于 EgReg 的极限风险。我们在仿真和一个真实数据例子中比较了 EgReg 与包络方法和其他基于 PC 的预测方法的预测性能，观察到 EgReg 在一般情况下优于这些替代方法。