面向有界与线性约束无导数优化的全-低评估方法

无导数优化(DFO)指在不依赖导数的情况下寻找目标函数的最优值。为解决此类问题，可以构建近似导数，例如使用有限差分估计。也可以设计在空间中探索并寻求当前点改进的算法策略。第一类策略在光滑问题上常提供良好性能，但代价是更多的函数评估。第二类更廉价，且通常更好地处理目标中的非光滑性或噪声。近来，全-低评估方法作为结合这两类策略（分别记为 Full-Eval 与 Low-Eval）的 DFO 算法混合类被提出。在无约束情形下，这些方法展现出有前景的数值性能。本文我们将全-低评估框架推广至有界与线性约束无导数优化。我们推导了该框架一个实例的收敛性结果，该实例将有限差分拟牛顿步与概率直接搜索步相结合。前者被投影到可行集上，而后者在由邻近活跃约束确定的切锥内定义。我们在标准线性约束问题上展示了我们实例的实际性能，并对其进行改造以引入噪声评估以及非光滑性。在所有情况下，我们的方法相比仅依赖 Full-Eval 或 Low-Eval 迭代的算法均表现更优。