基于随机记录值方法的全局仿真优化
最优化与控制
2024-07-19 v1
摘要
黑盒优化在机器学习、运�作用研究和工程仿真中无处不在。黑盒优化算法通常不假设目标函数的结构信息，因而必须利用随机信息来实现对全局最优解的统计收敛。这是一类方法是多起始算法，它们使用概率准则来：确定何时停止单个迭代优化算法（即内部分析）的运行，何时执行重新开始，或外部分析，以及何时终止整个算法。Zabinsky、Bulger 与 Khompatraporn 引入了一种称为 Dynamic Multi-start Sequential Search (DMSS) 的基于记录值理论的多起始框架。我们观察到， 当内部分析方法为确定性梯度-based 搜索时，DMSS 性能较差。本文中，我们提出了对 DMSS 的一种算法修改，并经empirically 证明，修订版 DMSS (RDMSS) 算法在梯度-based 设置下可为广泛的目标函数类别超越 DMSS。我们对一种特定构造的随机过程进行理论分析，该过程作为 RDMSS 中内部分析停止准则。我们讨论了 RDMSS 算法的计算考量。最后，我们呈现了数值结果以确定其有效性。
引用
@article{arxiv.2407.13576,
title = {A Stochastic Record-Value Approach to Global Simulation Optimization},
author = {Rohan Rele and Zelda Zabinsky and Giulia Pedrielli and Aleksandr Aravkin},
journal= {arXiv preprint arXiv:2407.13576},
year = {2024}
}