基于重要抽样估计的条件协方差矩阵相位转移及其在高维交叉熵方案中的影响

受重要抽样估计协方差矩阵这一在交叉熵(CE)算法中出现的动机驱动，我们研究了一个随机矩阵模型 $\hat \Sigma = {\bf X} L {\bf X}^\top$，具有两个 distinct 特征：${\bf X}$ 与 $L$ 相关，且 $L$ 呈重尾分布。在高维极限 $d \to \infty$ 的情形下，在 $n = d^\kappa$ 的多项式规模下，我们在适当假设下证明了相位转移的发生。具体而言，我们证明当且仅当 $\kappa > \kappa_*$ 时，$\| \hat \Sigma - E \hat \Sigma \| \Rightarrow 0$，其中阈值 $\kappa_*$ 由最大似然比的行为决定。此外，我们识别了在一般情况下 $\kappa_* = 1/\lambda_1$ 的情形，其中 $\lambda_1$ 为用于估计 $\hat \Sigma$ 的辅助分布协方差矩阵的最小特征值。这表明，具有较大最小特征值的协方差矩阵更有利于进行重要抽样。我们将这一洞见引入最近用于估计高维稀有事件概率的 CE 方案。通过数值模拟，我们展示更好的 CE 方案也具有较大的最小特征值，尽管这些算法并非专为平滑谱图而设计。这种新的谱解释提出了激发性问题并开启了研究方向，以用于设计高效的高维算法。