基于正交化交替最小二乘的保证 simultaneous 非对称张量分解

张量CANDECOMP/PARAFAC（CP）分解是解决广泛机器学习问题的重要工具。现有流行方法逐个恢复分量，未必按较大分量优先的顺序。近期发展的 simultaneous 幂方法即使观测张量无噪声，也仅能以高概率恢复前 $r$ 个分量。我们提出切片初始化交替子空间迭代（s-ASI）方法，在保证条件下以 $O(\log(\log \frac{1}{\epsilon}))$ 步张量子空间迭代，于无噪声情形（有界噪声下以高概率）几乎必然 simultaneous 恢复（误差 $\epsilon$ 内）前 $r$ 个分量，适用于（非）对称张量。我们的s-ASI方法引入基于切片的初始化，运行 $O(1/\log(\frac{\lambda_r}{\lambda_{r+1}}))$ 步矩阵子空间迭代，其中 $\lambda_r$ 表示张量的第 $r$ 大奇异值。我们首次给出 simultaneous 正交非对称张量分解的理论保证。无噪声下，我们首次给出 simultaneous 正交张量分解的\emph{几乎必然}理论保证。当张量含噪时，我们的非对称张量算法对小于 $\min\{O(\frac{(\lambda_r - \lambda_{r+1})\epsilon}{\sqrt{r}}), O(\delta_0\frac{\lambda_r -\lambda_{r+1}}{\sqrt{d}})\}$ 的噪声鲁棒，其中 $\delta_0$ 为小常数，正比于噪声情形下坏初始化之概率。