基于代理模型和敏感性分析的昂贵黑箱目标函数最小化通用随机算法框架
机器学习
2014-10-24 v1
摘要
我们专注于有界约束的全局优化问题，其目标函数是计算代价高昂的黑箱函数且具有多个局部极小值。本文重新审视了近期由 Regis (2007) 提出的基于响应面自适应或序贯学习的度量随机响应面 (MSRS) 算法，并对其进行了扩展，以在高维问题中获得更好的性能。具体而言，我们基于一种新的距离定义，提出了一种生成候选点的新方法，并根据度量准则从中选出下一个函数评估点，同时证明了相应算法的全局收敛性。相应地，我们提出了 MSRS 的一种更具自适应性的实现，称为“SO-SA”。“SO-SA”在生成候选点时更倾向于扰动那些最敏感的坐标，而不是同时扰动所有坐标。在合成问题和真实问题上的数值实验表明，与许多现有最优算法相比，我们的新算法具有优势。
引用
@article{arxiv.1410.6271,
title = {A General Stochastic Algorithmic Framework for Minimizing Expensive Black Box Objective Functions Based on Surrogate Models and Sensitivity Analysis},
author = {Yilun Wang and Christine A. Shoemaker},
journal= {arXiv preprint arXiv:1410.6271},
year = {2014}
}