中文

鲁棒的低秩张量列恢复

最优化与控制 2024-10-22 v1 机器学习 信号处理

摘要

张量列(TT)分解通过使用 O(N)O(N) 个小维度的矩阵(即因子)及其乘积来表示一个 NN 阶张量。由于其紧凑的表示形式,TT 分解已广泛应用于信号处理和量子信息中的各种张量恢复问题。在本文中,我们研究从被任意值异常值污染的测量中重建 TT 格式张量的问题。鉴于平滑公式易受污染,我们使用 1\ell_1 损失函数来增强对异常值的鲁棒性。我们首先建立了高斯测量算子的 1/2\ell_1/\ell_2-受限等距性质(RIP),表明 TT 格式张量中的信息可以使用数量随 NN 线性增长的测量来保留。我们还证明了在 TT 格式张量上优化的 1\ell_1 损失函数的尖锐性。基于 1/2\ell_1/\ell_2-RIP 和尖锐性,我们提出了两种互补的方法来从受污染的测量中恢复 TT 格式张量:投影次梯度方法(PSubGM),它在整个张量上优化;以及分解黎曼次梯度方法(FRSubGM),它直接在因子上优化。与 PSubGM 相比,分解方法 FRSubGM 以略慢的收敛速度为代价显著降低了内存成本。尽管如此,我们表明,在给定适当初始化(可通过截断谱方法获得)的情况下,这两种方法在步长递减时都能线性收敛到真实张量。

关键词

引用

@article{arxiv.2410.15224,
  title  = {Robust Low-rank Tensor Train Recovery},
  author = {Zhen Qin and Zhihui Zhu},
  journal= {arXiv preprint arXiv:2410.15224},
  year   = {2024}
}