凸性约束模型中局部参数的推断

我们考虑基于标准非参数回归模型的观测，对凸回归函数 $f_0: [0,1] \to \mathbb{R}$ 的局部参数进行推断的问题，使用凸最小二乘估计量（LSE）$\widehat{f}_n$。对 $x_0 \in (0,1)$，局部参数包括逐点函数值 $f_0(x_0)$、逐点导数 $f_0'(x_0)$ 以及 $f_0$ 的反模（即最小极小化子）。现有的估计误差 $(\widehat{f}_n(x_0) - f_0(x_0), \widehat{f}_n'(x_0) - f_0'(x_0) )$ 的极限分布依赖于未知二阶导数 $f_0''(x_0)$，因此不能直接用于推断。为规避此困境，我们证明以下局部归一化误差（LNEs）具有枢轴极限行为：令 \[\widehat{u}(x_0), \widehat{v}(x_0)\] 为包含 $x_0$ 且 $\widehat{f}_n$ 为线性的最大区间。则在标准条件下，$$\binom{ \sqrt{n(\widehat{v}(x_0)-\widehat{u}(x_0))}(\widehat{f}_n(x_0)-f_0(x_0)) }{ \sqrt{n(\widehat{v}(x_0)-\widehat{u}(x_0))^3}(\widehat{f}_n'(x_0)-f_0'(x_0))} \rightsquigarrow \sigma \cdot \binom{\mathbb{L}^{(0)}_2}{\mathbb{L}^{(1)}_2},$$ 其中 $n$ 为样本量，$\sigma$ 为误差的标准差，$\mathbb{L}^{(0)}_2, \mathbb{L}^{(1)}_2$ 为普适随机变量。这一渐近枢轴 LNE 理论立即给出了一种简单的无调参过程，用于为 $f_0(x_0)$ 和 $f_0'(x_0)$ 构造具有渐近精确覆盖率和最优长度的置信区间（CIs）。我们还为 $f_0$ 的反模构造了渐近枢轴 LNE，其极限分布甚至不依赖于 $\sigma$。这些渐近枢轴 LNE 理论进一步推广到其他凸性/凹性约束模型（例如对数凹密度估计），只要其对问题特定估计量已有极限分布理论。