异方差高斯回归中均值与方差的同时估计

设 $Y$ 为 $\mathbb{R}^n$ 上的高斯向量，其均值为 $s$，协方差矩阵 $\Gamma$ 为对角阵。我们的目标是在观测到 $Y$ 的两个独立副本的基础上，同时估计 $s$ 和对角元 $\sigma_i=\Gamma_{i,i}$（$i=1,...,n$）。我们的方法对 $s$ 不做任何先验假设，但要求已知比值 $\max_i\sigma_i/\min_i\sigma_i$ 的某个上界 $\gamma$。例如，选择 $\gamma=1$ 对应于同方差情形，即假设 $Y$ 的各分量具有共同的（未知）方差。相反，选择 $\gamma>1$ 对应于异方差情形，即允许 $Y$ 各分量的方差在一定范围内变化。我们的估计策略基于模型选择。我们考虑一族参数集 $\{S_m\times\Sigma_m, m\in\mathcal{M}\}$，其中 $S_m$ 和 $\Sigma_m$ 是线性空间。对每个 $m\in\mathcal{M}$，我们关联一对取值于 $S_m\times\Sigma_m$ 的估计量 $(\hat{s}_m,\hat{\sigma}_m)$。然后，我们设计一个模型选择程序，从 $\mathcal{M}$ 中选择某个 $\hat{m}$，使得 $(\hat{s}_{\hat{m}},\hat{\sigma}_{\hat{m}})$ 的 Kullback 风险尽可能接近估计量族 $\{(\hat{s}_m,\hat{\sigma}_m), m\in\mathcal{M}\}$ 中 Kullback 风险的最小值。接着，我们推导了估计量 $(\hat{s}_{\hat{m}},\hat{\sigma}_{\hat{m}})$ 在 Hölder 球上的一致收敛速率。最后，我们进行了模拟研究，以说明我们的估计量在实际中的表现。