界约束优化的投影搜索方法
最优化与控制
2021-10-19 v1
摘要
界约束优化的投影搜索方法基于沿一条通过将搜索方向投影到可行域而得到的分段线性连续路径进行搜索。这类方法的一个好处是，可以以计算单个搜索方向的代价对活跃集作出多处改变。由于目标函数沿搜索路径不可微，无法将投影搜索方法与满足Wolfe条件的步长结合使用，因为后者需要在路径上某点的目标函数方向导数。因此，必须采用基于简单回溯过程的方法给出满足“类Armijo”充分下降条件的步长。结果是，常规投影搜索方法无法利用已被证明在无约束情形有效的复杂保护多项式插值技术。本文关注基于一种适用于分段可微函数的新型拟Wolfe线搜索的投影搜索方法的构建与分析。该线搜索的行为类似于常规Wolfe线搜索，只是步长在更广的条件范围内被接受。这些条件考虑了目标函数在搜索路径上的限制不可微的步点。提出了可宽泛归类为活跃集与内点法的两类新方法。给出了这两类一般方法中两种具体方法的计算结果：一种使用Hessian的有限内存拟牛顿近似的投影搜索活跃集法；以及一种投影搜索原始对偶内点法。结果表明，在这些情形下，拟Wolfe线搜索比Armijo线搜索显著更高效、更可靠。
引用
@article{arxiv.2110.08359,
title = {Projected-Search Methods for Bound-Constrained Optimization},
author = {Michael W. Ferry and Philip E. Gill and Elizabeth Wong and Minxin Zhang},
journal= {arXiv preprint arXiv:2110.08359},
year = {2021}
}