基于通用 Kriging 代理模型的高效全局优化研究
机器学习
2018-03-26 v1
摘要
本文研究了在高效全局优化（EGO）框架内，通用 Kriging（UK）模型应用于单目标全局优化的能力。我们实现了这一组合的 UK-EGO 框架，并研究了四种 UK 方法变体，即一阶多项式 UK、二阶多项式 UK、来自 ooDACE 工具箱的盲 Kriging（BK）实现，以及多项式混沌 Kriging（PCK）实现。具有由 BK 和 PCK 模型导出的自动趋势函数选择的 UK-EGO 框架，其工作原理是构建 UK 代理模型，然后在留一交叉验证误差最低的 Kriging 模型上通过期望改进准则进行优化。接着，我们使用五个合成测试函数和一个空气动力学问题研究并比较了 UK-EGO 变体与标准 EGO。结果表明，通过自动特征选择合理选择趋势函数，可以提升 UK-EGO 相对于 EGO 的优化性能。从结果中我们发现 PCK-EGO 是最佳变体，因为与其余 UK-EGO 方案相比，其性能更为稳健；然而，对于高维问题，应使用全阶展开来生成候选趋势函数集。需要注意的是，对于某些测试函数，具有预定多项式趋势函数的 UK 表现优于 BK 和 PCK，这表明使用自动趋势函数选择并不总是能带来质量最优的解。我们还发现，尽管 UK 的某些变体在全局精度上不如普通 Kriging（OK），但由于趋势函数的加入，它们仍能识别出更优的优化解，这有助于优化器定位全局最优值。
关键词
引用
@article{arxiv.1803.08667,
title = {On efficient global optimization via universal Kriging surrogate models},
author = {Pramudita Satria Palar and Koji Shimoyama},
journal= {arXiv preprint arXiv:1803.08667},
year = {2018}
}