尖峰张量模型的景观

我们考虑在高斯噪声中估计一个大秩一张量${\boldsymbol u}^{\otimes k}\in({\mathbb R}^{n})^{\otimes k}$（$k\ge 3$）的问题。早期工作刻画了一个临界信噪比$\lambda_{Bayes}= O(1)$，在此之上理想估计器与未知目标向量取得严格为正的相关性。值得注意的是，除非$\lambda\ge C n^{(k-2)/4}$，否则已知没有多项式时间算法能达到此目标，并且即便强大的半定规划松弛在$1\ll \lambda\ll n^{(k-2)/4}$时也似乎失效。为阐明此行为，我们考虑最大似然估计器，其需要在$n$维单位球面上最大化一个$k$次齐次多项式。我们计算了该目标函数的临界点与局部极大值的期望数量，表明其在维数$n$上是指数级的，并给出了指数增长率的精确公式。我们证明（对于大于某常数的$\lambda$）临界点要么非常接近未知向量${\boldsymbol u}$，要么被限制在围绕与${\boldsymbol u}$正交的最大圆的宽度为$\Theta(\lambda^{-1/(k-1)})$的带内。对于局部极大值，该带收缩为尺寸$\Theta(\lambda^{-1/(k-2)})$。这些“无信息”的局部极大值很可能是优化算法失效的原因。