投影估计量的自由度及其在多元非参数回归中的应用

在本文中，我们考虑具有多元预测变量的非参数回归问题。我们为未知回归函数的估计量提供了自由度和散度的刻画，这些估计量是通过线性约束二次优化过程（即具有线性约束和/或二次惩罚的最小二乘准则的极小化变量）的输出获得的。作为我们结果的特例，我们推导了许多非参数回归问题中自由度的显式表达式，例如有界保序回归、多元（惩罚）凸回归和加性全变差正则化。我们的理论也产生了统计学文献中许多被广泛研究的估计量（如岭回归、Lasso 和广义 Lasso）自由度的已知结果作为特例。我们的结果可以方便地用于通过最小化 Stein 无偏风险估计来选择估计过程中涉及的调节参数。作为我们分析的一个副产品，我们推导了有界保序回归与一般偏序集上保序回归之间的一个有趣联系，这具有独立的研究意义。