基于随机矩阵与多面体条件数的 Frank-Wolfe 方法平滑复杂度

Frank-Wolfe 方法在凸多面体上的优化中颇受欢迎。其原因之一在于该方法无需在多面体上投影，而仅需在其上进行线性优化。为理解其复杂度，Lacoste-Julien 与 Jaggi 引入了多面体的条件数，并证明了该方法的若干变体具有线性收敛性。实际运行时间在最坏情况下（当条件数呈指数级时）仍可能是指数的。我们研究了该条件数的平滑复杂度，即输入多面体经微小随机扰动后的条件数，并证明其对任意单纯形为多项式级，而对一般多面体为指数级。我们的结果也适用于为多面体 Frank-Wolfe 方法分析所提出的其他条件度量：顶点-面距离（Beck 与 Shtern）与面距离（Peña 与 Rodríguez）。我们针对多面体的论证是对用于研究随机矩阵条件数论证的精炼。基本论证表明，对于 $c>1$，一个 $d$×$n$ 的随机高斯矩阵在 $n \geq cd$ 时，以高概率存在一个 $d$×$d$ 子矩阵，其最小奇异值呈指数级小。这对张量分解鲁棒唯一性相关结果具有影响。