Polyak次梯度法中的Polyak步长用于凸优化的Minorant方法

1963年，Boris Polyak为梯度下降法提出了一种特定的步长，即如今所称的Polyak步长，他后来将其推广到次梯度法。Polyak步长要求知道最小化问题的最优值，这是一个强假设，但对若干重要问题成立。在本文中，我们将Polyak的方法扩展以处理约束，并作为次梯度的推广，处理一般的minorant（即紧密下界目标与约束函数的凸函数）。我们将该算法称为Polyak Minorant Method（PMM，Polyak次梯度Minorant方法）。它与割平面法和束方法密切相关。