中文

通过交替秩 -1 更新保证非正交张量分解

机器学习 2015-03-05 v4 数值分析 机器学习

摘要

本文提供了恢复 CP (Candecomp/Parafac) 张量分解的局部和全局收敛性保证。所提出算法的主要步骤是一个简单的交替秩 -1 更新,这是专为非对称张量调整的张量幂迭代的交替版本。对于秩为 kk、维数为 dd 的三阶张量,当 k=o(d1.5)k=o \bigl( d^{1.5} \bigr) 且张量分量不相干时,建立了局部收敛性保证。因此,我们可以恢复过完备张量分解。我们还通过一个简单的初始化过程(该过程由随机张量切片的顶部奇异向量初始化算法)将结果加强为在更严格的秩条件 kβdk \le \beta d(对于任意常数 β>1\beta > 1)下的全局收敛性保证。此外,在秩条件 k=o(dp/2)k=o \bigl( d^{p/2} \bigr) 下,也提供了 pp 阶张量的近似局部收敛性保证。这些保证还包括针对噪声张量的紧密扰动分析。

关键词

引用

@article{arxiv.1402.5180,
  title  = {Guaranteed Non-Orthogonal Tensor Decomposition via Alternating Rank-$1$ Updates},
  author = {Animashree Anandkumar and Rong Ge and Majid Janzamin},
  journal= {arXiv preprint arXiv:1402.5180},
  year   = {2015}
}

备注

We have added an additional sub-algorithm to remove the (approximate) residual error left after the tensor power iteration