通过 Kronecker 积加速 Johnson-Lindenstrauss 变换

Kronecker 积是一种重要的矩阵运算，在支撑快速线性变换方面具有广泛应用，包括信号处理、图论、量子计算和深度学习。在本文中，我们引入了一种用于嵌入具有 Kronecker 积结构向量的快速 Johnson-Lindenstrauss 投影的推广，即 Kronecker 快速 Johnson-Lindenstrauss 变换（KFJLT）。当应用于具有 Kronecker 结构的向量时，KFJLT 通过将嵌入代价降为标准快速 Johnson-Lindenstrauss 变换（FJLT）代价的指数因子，避免了显式形成完整的 Kronecker 积。我们证明这一计算收益仅以嵌入能力上的微小代价换来：给定 $N = \prod_{k=1}^d n_k$，考虑 $d$ 个组成欧氏空间张量积 $\bigotimes_{k=d}^{1}\mathbb{R}^{n_k} \subset \mathbb{R}^{N}$ 中 $p$ 个点的有限集。以高概率，维度为 $N \times m$ 的随机 KFJLT 矩阵在由 $m \gtrsim \varepsilon^{-2} \cdot \log^{2d - 1} (p) \cdot \log N$ 提供的乘性失真 $(1\pm \varepsilon)$ 下嵌入该点集。最后我们描述了 KFJLT 在高效求解大规模 Kronecker 结构最小二乘问题以拟合 CP 张量分解中的直接应用。