针对谱球上的光滑凸函数最小化的随机线性收敛 Frank-Wolfe 类型方法

我们考虑在 n 维谱球上最小化光滑凸函数的问题——即实对称 n×n 半正定矩阵集合，其迹为单位，这在统计学、机器学习和其他领域具有广泛应用。标准的一阶方法通常需要高秩矩阵计算，当维数 n 较大时会变得不可行。已知的 Frank-Wolfe 方法只需要高效的秩一矩阵计算，但 suffers from worst-case slow convergence, 即使在标准方法可实现线性收敛率的条件下也亦如此。本文提出了首个仅应用高效秩一矩阵计算的 Frank-Wolfe 算法, 并在假设满足二次增长和严格补间条件后, 保证在有限迭代次数后以线性收敛率收敛, 且收敛速度与环境维数无关。