StepDIRECT——一种面向阶跃函数的无导数优化方法
最优化与控制
2022-02-03 v1
摘要
本文中，我们提出 StepDIRECT 算法用于无导数优化（DFO），其中黑盒目标函数具有阶跃景观。我们的框架基于著名的 DIRECT 算法。通过结合局部变异性来探索平坦性，我们提供了一种选择潜在最优超矩形的新准则。此外，我们引入了一种在潜在最优超矩形上执行的随机局部搜索算法，以提升解的质量与收敛速度。给出了 StepDIRECT 算法的全局收敛性。给出了针对随机森林模型优化与超参数调优的数值实验以支撑我们算法的有效性。所提出的 StepDIRECT 算法与其他最先进的基线 DFO 方法（包括原始 DIRECT 算法）相比展现出有竞争力的性能结果。
引用
@article{arxiv.2202.00865,
title = {StepDIRECT -- A Derivative-Free Optimization Method for Stepwise Functions},
author = {Dzung T. Phan and Hongsheng Liu and Lam M. Nguyen},
journal= {arXiv preprint arXiv:2202.00865},
year = {2022}
}