大协方差矩阵估计的 SURE 信息准则及其渐近性质

考虑 $n$ 个独立同分布的 $p$ 维高斯随机向量，其协方差矩阵为 $\Sigma$。当 $p$ 远大于 $n$ 时，估计 $\Sigma$ 的问题近年来备受关注。然而，关于协方差矩阵估计的信息准则知之甚少。如何正确定义此类准则及其统计性质如何？本文通过关注 $p>n$ 但 $\log(p)=o(n)$ 时的带状协方差矩阵估计来尝试回答这些问题。受回归模型中 Stein 无偏风险估计 (SURE) 与 AIC 之间深刻联系的启发，我们提出了一族由常数 $c$ 索引的广义 SURE ($\text{SURE}_c$) 用于协方差矩阵估计。当 $c$ 为 2 时，$\text{SURE}_2$ 提供了协方差矩阵估计量 Frobenius 风险的无偏估计。此外，我们表明，通过对所有可能的带状协方差矩阵估计量最小化 $\text{SURE}_2$，我们可以达到极小极大最优收敛速率，且所得估计量的表现类似于通过所谓 oracle 调优获得的协方差矩阵估计量。另一方面，我们也表明，当真实协方差矩阵恰好为带状时，$\text{SURE}_2$ 在选择上是不一致的。为修正这种选择不一致性，我们考虑使用 $c=\log(n)$ 的 SURE，并证明通过最小化 $\text{SURE}_{\log(n)}$，我们以趋于 1 的概率选择了真实的带宽。因此，我们的分析表明 $\text{SURE}_2$ 和 $\text{SURE}_{\log(n)}$ 可分别视为大协方差矩阵估计中的 AIC 和 BIC。