基于反距离加权与径向基函数的全局优化
机器学习
2020-01-10 v2 最优化与控制
机器学习
摘要
目标函数评估代价高昂的全局优化问题，可通过递归地将代理函数拟合到函数样本并最小化采集函数以生成新样本来有效求解。采集步骤在寻求代理函数最小的新的优化向量（对代理的利用）与寻找可行空间中尚未访问且可能包含更优目标函数值的区域（对可行空间的探索）之间进行权衡。本文提出一种新全局优化算法，使用反距离加权（IDW）与径向基函数（RBF）相结合来构造采集函数。可轻松考虑评估简单的相当任意的约束。与贝叶斯优化相比，我们称为 GLIS（基于反距离加权与代理径向基函数的全局最小值）的所提算法具有竞争力且计算更轻量，如我们在一组基准全局优化与超参数调优问题中所展示。GLIS 的 MATLAB 与 Python 实现可在 \url{http://cse.lab.imtlucca.it/~bemporad/glis} 获取。
引用
@article{arxiv.1906.06498,
title = {Global optimization via inverse distance weighting and radial basis functions},
author = {Alberto Bemporad},
journal= {arXiv preprint arXiv:1906.06498},
year = {2020}
}