非线性最小二乘估计的自由度

我们给出了关于非线性最小二乘估计有效自由度的一个一般性结果，该结果将自由度与估计量的散度联系起来。我们表明，在一般框架下，最小二乘估计量的散度是一个定义良好但可能存在负偏差的自由度估计量，并且我们给出了该偏差的精确表示。这意味着，如果我们在 Stein 无偏风险估计 (SURE) 中使用散度作为自由度的代入估计量，我们通常会低估真实风险。我们的结果适用于例如模型搜索问题，从而给出了搜索对自由度贡献多少的有限样本刻画。受系统生物学中拟合 ODE 模型问题的启发，我们通过线性 ODE 方程组的估计说明了这些一般性结果。在此示例中，散度被证明是 $\ell_1$ 约束模型自由度的有用估计量。