面向鲁棒最优解的贝叶斯搜索
机器学习
2021-12-16 v3 机器学习
摘要
许多昂贵的黑盒优化问题对其输入敏感。在这些问题中,定位一个良好设计的区域比定位单个——可能脆弱的——最优设计更有意义。昂贵的黑盒函数可通过贝叶斯优化有效优化,其中高斯过程作为昂贵函数先验是一种流行选择。我们提出一种利用贝叶斯优化进行鲁棒优化的方法,以寻找设计空间中昂贵函数性能对输入相对不敏感而同时保持良好质量的区域。这是通过从对昂贵函数建模的高斯过程中采样实现,并评估每个实现的改进量来完成的。这些改进的期望可通过进化算法廉价优化,以确定评估昂贵函数的下一个位置。我们描述了定位最优期望改进的高效过程。我们通过经验表明,在候选不确定性区域中模型最不确定之处或随机地评估昂贵函数,相较于开发式方案能产生最佳收敛性。我们在二维、五维和十维的六个测试函数上说明了我们的方法,并证明其能够胜过文献中的两种最先进方法。我们还在 4 维和 8 维的两个真实世界问题上演示了我们的方法,涉及训练机械臂将物体推至目标。
引用
@article{arxiv.1904.11416,
title = {Bayesian Search for Robust Optima},
author = {Nicholas D. Sanders and Richard M. Everson and Jonathan E. Fieldsend and Alma A. M. Rahat},
journal= {arXiv preprint arXiv:1904.11416},
year = {2021}
}
备注
Submitted to ACM Transactions on Evolutionary Learning and Optimization. 26 pages, 15 figures