Krylov方法用于低秩近似是（近乎）最优的

我们考虑在矩阵-向量乘积模型下、各种 Schatten 范数中的秩-$1$ 低秩近似（LRA）问题：$$\min_{\|u\|_2=1} \|A (I - u u^\top)\|_{\mathcal{S}_p} ,$$ 其中 $\|M\|_{\mathcal{S}_p}$ 表示 $M$ 奇异值的 $\ell_p$ 范数。给定 $\varepsilon>0$，我们的目标是输出单位向量 $v$ 使得 $$\|A(I - vv^\top)\|_{\mathcal{S}_p} \leq (1+\varepsilon) \min_{\|u\|_2=1}\|A(I - u u^\top)\|_{\mathcal{S}_p}.$$ 我们的主要结果表明，Krylov 方法在谱（$p=\infty$）、Frobenius（$p=2$）和核（$p=1$）LRA 中（近乎）达到了信息论最优的矩阵-向量乘积次数。特别地，对于谱 LRA，我们证明任何算法都需要 $\Omega\left(\log(n)/\varepsilon^{1/2}\right)$ 次矩阵-向量乘积，恰好匹配 Krylov 方法 [MM15, BCW22] 的上界。我们的下界解决了 [Woo14] 中的开放问题1，为谱 LRA 算法缺乏进展提供了证据，并解决了 [BCW22] 中的开放问题1.2。接下来，我们证明对任意固定常数 $p$，即 $1\leq p =O(1)$，存在 $O\left(\log(1/\varepsilon)/\varepsilon^{1/3}\right)$ 次矩阵-向量乘积的上界，意味着复杂度不随输入规模增长。这改进了 [BCW22] 中近期获得的 $O\left(\log(n/\varepsilon)/\varepsilon^{1/3}\right)$ 界，并在 $\log(1/\varepsilon)$ 因子内匹配其 $\Omega\left(1/\varepsilon^{1/3}\right)$ 下界。