LineWalker：面向黑箱无导数优化与代理模型构建的直线搜索
最优化与控制
2023-07-21 v1
摘要
本文描述了一种简单而有效的采样方法，用于优化并学习沿感兴趣的一维线段的多维函数的离散近似（或代理模型）。该方法不依赖导数信息，且待学习的函数可以是必须通过仿真或其他方式查询的计算代价昂贵的“黑箱”函数。假设底层函数无噪声且光滑，尽管当底层函数分段光滑时该算法依然有效。该方法通过在稀疏且精心选择的网格点上评估真实函数，在一组等距网格点上构建光滑代理模型。在每次迭代中，代理模型的非禁忌局部极小值和极大值被识别为采样候选点。还使用了禁忌搜索结构以促进多样化。若未识别出非禁忌极值点，则通过采样最大未探索区间的中点来执行简单的探索步骤。算法持续进行直至达到用户定义的函数评估次数上限。大量示例展示了该算法相对于包括贝叶斯优化和 NOMAD 在内的最先进方法在主要是非凸测试函数上的有效性与优越性。
引用
@article{arxiv.2307.10463,
title = {LineWalker: Line Search for Black Box Derivative-Free Optimization and Surrogate Model Construction},
author = {Dimitri J. Papageorgiou and Jan Kronqvist and Krishnan Kumaran},
journal= {arXiv preprint arXiv:2307.10463},
year = {2023}
}
备注
58 pages, 7 main figures, 29 total figures