一类稀疏 Johnson–Lindenstrauss 变换及其极值奇异值分析

Johnson–Lindenstrauss（JL）引理是现代算法设计中一种强有力的降维工具。该引理指出，欧氏空间中任意高维点集可被压扁至低维，同时近似保持两两欧氏距离。满足该引理的随机矩阵称为 JL 变换（JLTs）。受每列恰有 $s$ 个非零元的现有 $s$-hashing JLTs 启发，本文引入一类稀疏矩阵集合，涵盖所谓 $s$-hashing-like 矩阵，其每列非零元的期望个数为 $s$。这些矩阵的次高斯元素独立性及其精确分布知识在其分析中起重要作用。利用独立次高斯随机变量的性质，证明这些矩阵为 JLTs，并借助几何泛分析中的技术非渐近地估计其最小与最大奇异值。当矩阵维数趋于无穷时，证明这些奇异值几乎必然收敛于固定量（利用普适 Bai–Yin 律），并在适当重标度后依分布收敛于高斯正交系综（GOE）的 Tracy–Widom 律。理解极值奇异值的行为一般而言很重要，因为它们常被用作矩阵算法稳定性的度量。例如，JLTs 最近被用于无导数优化算法框架中以选取随机子空间，在其中构造随机模型或轮询方向以实现可扩展性，因此估计其最小奇异值尤其有助于确定这些子空间的维数。