高维高斯向量的典型相关系数：有限秩情形

考虑高斯向量 $\mathbf{z}=(\mathbf{x}',\mathbf{y}')'$，由两个子向量 $\mathbf{x}$ 和 $\mathbf{y}$ 组成，维度分别为 $p$ 和 $q$，其中 $p$ 和 $q$ 均与样本量 $n$ 成比例。用 $\Sigma_{\mathbf{u}\mathbf{v}}$ 表示随机向量 $\mathbf{u}$ 和 $\mathbf{v}$ 的总体交叉协方差矩阵，用 $S_{\mathbf{u}\mathbf{v}}$ 表示其样本对应矩阵。$\mathbf{x}$ 和 $\mathbf{y}$ 之间的典型相关系数已知为典型相关矩阵 $\Sigma_{\mathbf{x}\mathbf{x}}^{-1}\Sigma_{\mathbf{x}\mathbf{y}}\Sigma_{\mathbf{y}\mathbf{y}}^{-1}\Sigma_{\mathbf{y}\mathbf{x}}$ 的非零特征值的平方根。本文我们关注 $\Sigma_{\mathbf{x}\mathbf{y}}$ 为有限秩 $k$ 的情形，即存在 $k$ 个非零典型相关系数，其平方记为 $r_1\geq\cdots\geq r_k>0$。我们研究 $r_i,i=1,\ldots,k$ 的样本对应量，即样本典型相关矩阵 $\S_{\mathbf{x}\mathbf{x}}^{-1}\S_{\mathbf{x}\mathbf{y}}\S_{\mathbf{y}\mathbf{y}}^{-1}\S_{\mathbf{y}\mathbf{x}}$ 的最大 $k$ 个特征值，记为 $\lambda_1\geq\cdots\geq \lambda_k$。我们证明存在阈值 $r_c\in(0,1)$，使得对每个 $i\in\{1,\ldots,k\}$，当 $r_i\leq r_c$ 时，$\lambda_i$ 几乎必然收敛到样本典型相关矩阵的极限谱分布的右边缘，记为 $d_{+}$。当 $r_i>r_c$ 时，$\lambda_i$ 在 $(d_{+},1]$ 内具有几乎必然极限。我们还得到了在适当归一化下 $\lambda_i$ 的极限分布。具体而言，若 $r_i>r_c$，$\lambda_i$ 呈现高斯型涨落；若 $r_i<r_c$，则服从 Tracy-Widom 分布。我们还讨论了结果的一些应用。