中文

Toeplitz 矩阵的亚线性时间低秩近似

数据结构与算法 2024-04-23 v1 数值分析 数值分析

摘要

我们提出了一种用于计算正半定性(PSD)Toeplitz 矩阵 TRd×dT\in \mathbb{R}^{d\times d} 的近似最优低秩近似的亚线性时间算法,该算法基于对矩阵条目进行带噪声的访问。在具体情况下,给定对 T+ET+E 的条目级查询访问,其中 ERd×dE\in \mathbb{R}^{d\times d} 为任意噪声矩阵,整数秩 kdk\leq d,以及误差参数 δ>0\delta>0,我们的算法在时间为 poly(k,log(d/δ))\text{poly}(k,\log(d/\delta)) 时,输出(以因式形式)一个 Toeplitz 矩阵 T~Rd×d\widetilde{T} \in \mathbb{R}^{d \times d},其秩为 poly(k,log(d/δ))\text{poly}(k,\log(d/\delta)),满足(其中 CC 为固定常数):\n\n\nTT~FCmax{EF,TTkF}+δTF.\n\begin{equation*}\n\|T-\widetilde{T}\|_F \leq C \cdot \max\{\|E\|_F,\|T-T_k\|_F\} + \delta \cdot \|T\|_F. \end{equation*}\n\n\n这里的 F\|\cdot \|_F 为弗罗贝尼乌斯范数,TkT_kTT 在弗罗贝尼乌斯范数下的最佳(不一定为 Toeplitz)秩-kk 近似,由对 TT 的前 kk 个特征向量进行投影得到。我们的结果具有以下应用场景:当 E=0E = 0 时,我们获得了第一个针对 PSD Toeplitz 矩阵的亚线性时间近似相对误差低秩近似算法,解决了 Kapralov 等人在 SODA `23 上提出的主要开放问题(他们的算法虽具亚线性查询复杂度,却呈指数级运行时间)。我们的算法还可用于近似来自多元高斯分布的未知 Toeplitz 协方差矩阵,该分布通过样本访问方式提供,进而解决了 Eldar 等人在 SODA `20 上提出的开放问题。我们的算法应用稀疏傅里叶变换技术来恢复其傅里叶结构下的低秩 Toeplitz 矩阵。我们的关键技术贡献是首个实现离散时间非均匀稀疏傅里叶恢复的多项式时间算法,这可能本身也具有独立的研究价值。

关键词

引用

@article{arxiv.2404.13757,
  title  = {Sublinear Time Low-Rank Approximation of Toeplitz Matrices},
  author = {Cameron Musco and Kshiteej Sheth},
  journal= {arXiv preprint arXiv:2404.13757},
  year   = {2024}
}

备注

Published in SODA 2024. Updated proofs