基于模型的免导数优化方法及软件

本论文研究免导数优化（DFO），特别是基于模型的方法与软件。这类方法的动机在于：某些优化问题中，获取目标函数以及可能约束函数的一阶信息是不可能的或代价过高。特别地，本论文呈现了我们所开发的 PDFO 包，其为 Powell 的基于模型的 DFO 求解器（即 COBYLA、UOBYQA、NEWUOA、BOBYQA 和 LINCOA）提供 MATLAB 与 Python 接口。此外，本论文的相当部分致力于基于序列二次规划（SQP）方法开发一种新的 DFO 方法。因此，我们概述了 SQP 方法，并给出其理论与实践的一些视角。特别地，我们表明 SQP 子问题的目标函数是在曲面切空间中原始目标函数的自然二次近似。最后，我们详述了新 DFO 方法 COBYQA（意为 Constrained Optimization BY Quadratic Approximations）的开发。该免导数信赖域 SQP 方法旨在处理含等式与不等式约束的非线性约束优化问题。COBYQA 的一个重要特征是：若存在边界约束，则其始终尊重边界约束，这源于目标函数在违反边界时无定义的应用背景。我们给出了 COBYQA 大量的数值实验，显示了 COBYQA 相较 Powell 的 DFO 求解器具有明显优势。这些实验表明 COBYQA 是 COBYLA 作为通用 DFO 求解器的优秀继承者。本论文是在香港理工大学 Zaikun Zhang 博士与 Xiaojun Chen 教授的指导下完成的博士论文。经费由香港 UGC 经由香港博士奖学金计划提供。