重球法的可证明非加速性

在本工作中，我们证明重球（HB）法在光滑强凸问题上可证明无法达到加速收敛速率。更具体地，我们证明对于任意条件数与任意算法参数选择，要么 HB 在 $L$-光滑且 $\mu$-强凸的\textit{二次}函数类上的最坏情况收敛速率非加速（即慢于 $1 - \mathcal{O}(\kappa)$），要么存在一个 $L$-光滑 $\mu$-强凸函数与一种初始化使得该方法不收敛。据我们所知，该结果 closing 了关于最常用且最具代表性的首阶优化技术之一的简单却开放的问题。我们的方法基于寻找使 HB 无法收敛而仅在有限多个迭代上循环的函数。我们解析地描述了所有在 particular 循环形状上展现此循环行为的 HB 参数化，该形状的选择由对首阶方法循环行为的系统性、构造性研究支撑。我们展示了结果对循环扰动的鲁棒性，并将其推广到也满足高阶正则性条件的函数类。