关于一般阶样条回归中的相变

在 $\mathbb{R}^n$ 中的高斯序列模型 $Y= \theta_0 + \varepsilon$ 中，我们研究用具有自由结点的一类 (generalized) 样条 $\Theta(d,d_0,k)$ 逼近信号 $\theta_0$ 的基本极限。这里 $d$ 是样条的次数，$d_0$ 是每个内部结点处的可微性阶数，$k$ 是最大段数。我们证明，给定任何整数 $d\geq 0$ 和 $d_0\in\{-1,0,\ldots,d-1\}$，$\Theta(d,d_0,k)$ 上的极小极大估计率表现出以下相变：\n\begin{equation*}\n\begin{aligned}\n\inf_{\widetilde{\theta}}\sup_{\theta\in\Theta(d,d_0, k)}\mathbb{E}_\theta\|\widetilde{\theta} - \theta\|^2 \asymp_d \begin{cases} k\log\log(16n/k), & 2\leq k\leq k_0,\\ k\log(en/k), & k \geq k_0+1. \end{cases} \end{aligned}\n\end{equation*} 形式为 $\lfloor{(d+1)/(d-d_0)\rfloor} + 1$ 的转变边界 $k_0$ 证明了正则性参数 $d_0$ 在区分较快的 $\log \log(16n)$ 速率和较慢的 $\log(en)$ 速率中的关键作用。我们进一步证明，一旦引入额外的 '$d$-单调性' 形状约束（包括 $d = 0$ 时的单调性和 $d=1$ 时的凸性），上述相变即被消除，并且对所有 $k$ 都可以达到更快的 $k\log\log(16n/k)$ 速率。这些结果为开发 $\ell_0$-惩罚（形状约束）样条回归程序作为 $\ell_1$-和 $\ell_2$-惩罚程序的有用替代方案提供了理论支持。