高维随机向量的样本典型相关系数：局部律与 Tracy-Widom 极限

考虑两个随机向量 $\mathbf C_1^{1/2}\mathbf x \in \mathbb R^p$ 和 $\mathbf C_2^{1/2}\mathbf y\in \mathbb R^q$，其中 $\mathbf x$ 和 $\mathbf y$ 的分量是均值为零、方差为 1 的独立同分布随机变量，$\mathbf C_1$ 和 $\mathbf C_2$ 分别是 $p \times p$ 和 $q\times q$ 的确定性总体协方差矩阵。基于 $(\mathbf C_1^{1/2}\mathbf x,\mathbf C_2^{1/2}\mathbf y)$ 的 $n$ 个独立样本，我们利用典型相关分析研究这两个向量之间的样本相关性。分别记 $S_{xx}$ 和 $S_{yy}$ 为 $\mathbf C_1^{1/2}\mathbf x$ 和 $\mathbf C_2^{1/2}\mathbf y$ 的样本协方差矩阵，$S_{xy}$ 为样本互协方差矩阵。则样本典型相关系数为样本典型相关矩阵 $\cal C_{XY}:=S_{xx}^{-1}S_{xy}S_{yy}^{-1}S_{yx}$ 的特征值的平方根。在高维设定下，当 $n\to \infty$ 时 ${p}/{n}\to c_1 \in (0, 1)$ 且 ${q}/{n}\to c_2 \in (0, 1-c_1)$，我们证明只要 $\lim_{s \rightarrow \infty}s^4 [\mathbb{P}(\vert x_{ij} \vert \geq s)+ \mathbb{P}(\vert y_{ij} \vert \geq s)]=0$，$\mathcal C_{XY}$ 的最大特征值就收敛到 Tracy-Widom 分布。这推广了文献 [16] 的结果，该文献在所有矩有限的假设下建立了 $\mathcal C_{XY}$ 最大特征值的 Tracy-Widom 极限。我们的证明基于线性化方法，将问题归约为对 $(p+q+2n)\times (p+q+2n)$ 随机矩阵 $H$ 的研究。特别地，我们将证明其逆 $G:=H^{-1}$（即预解式）的最优局部律。该局部律是本文证明 Tracy-Widom 律以及文献 [22,23] 中关于具有有限秩相关的低维随机向量典型相关系数研究的主要工具。