通过循环小幻想实现快速自适应CUR分解

准确的低秩矩阵近似计算是提高机器学习、不确定性量化和控制等技术可扩展性的核心。传统方法采用基于奇异值分解（SVD）的技术，如截断SVD或RandomizedSVD。虽然这些SVD方法——尤其是RandomizedSVD——已被证明非常高效，但其他低秩近似方法可提供更佳性能。一种称为CUR分解的方法直接使用矩阵的行列子集来构建低秩近似。由于CUR使用直接矩阵子集，它通常更能保留稀疏性或非负性等本征矩阵结构，并可促进许多情境下的数据解释。本文引入IterativeCUR算法，借助随机数值线性代数中的既有工作，构建一种在与先前工作方面具有高度竞争力的算法：（1）它在适应性方面具有优势，输入参数为所需容差，而非对数值秩的事先猜测。（2）当这些方法在自适应秩模式下运行时，其通常显著快于现有的CUR算法和RandomizedSVD等技术。其渐近复杂度为 $\mathcal{O}(mn + (m+n)r^2 + r^3)$ 对于一个 $m\times n$ 矩阵的数值秩为 $r$。（3）它依赖于从矩阵中抽取的单个小幻想，该幻想在算法进行时被依次下调。我们通过大量实验演示，IterativeCUR 在保持无损精度的同时，相较于基于幻想的主动挑选方法实现了最高可达 $4\times$ 的加速，相较于自适应随机SVD方法实现了最高可达 $40\times$ 的加速。