分析过完备情形下张量幂方法的动力学

我们提出了一种新颖的分析方法，用于研究过完备情形下张量幂迭代的动力学，其中张量的 CP 秩大于输入维度。一般而言，求解过完备张量的 CP 分解是 NP 难的。我们考虑张量分量随机抽取的情形，并证明在温和的初始化条件下，简单的幂迭代能够以有界误差恢复这些分量。我们将该分析应用于潜在变量模型的无监督学习，例如多视图混合模型和球面高斯混合模型。给定三阶矩张量，我们利用张量幂迭代学习模型参数。我们证明了当隐藏分量数量 $k$ 远大于数据维度 $d$（直至 $k = o(d^{1.5})$）时，该方法能够正确学习模型参数。我们使用数据样本初始化幂迭代，并证明了在样本信噪比满足温和条件时其成功性。我们的分析显著扩展了谱方法适用的潜在变量模型类别。此外，我们的分析还处理了输入张量中的噪声问题，从而在潜在变量模型学习应用中得出了样本复杂度结果。