中文

基于连续代理模型的优化算法非常适用于昂贵的离散问题

最优化与控制 2021-05-28 v2 机器学习

摘要

解决昂贵的黑盒优化问题的一种方法是使用代理模型,该模型基于先前的观测评估来近似目标函数。转而优化这个评估代价更低的代理模型,以寻找原问题的近似解。在离散问题的情况下,近期研究围绕专门构建以处理离散结构的代理模型展开。一个主要动机是,文献认为连续方法(例如以高斯过程为代理的贝叶斯优化)是次优的(尤其在更高维度),因为它们忽略离散结构,例如将实值解舍入为整数。然而,我们声称这并不正确。事实上,我们给出的经验证据表明,在包括一个真实应用在内的一组高维离散基准问题上,连续代理模型的使用相对于最先进的基于离散代理的方法表现出有竞争力的性能。我们在不同离散结构和时间约束上的实验也更深入地揭示了哪些算法在哪些类型问题上表现良好。

关键词

引用

@article{arxiv.2011.03431,
  title  = {Continuous surrogate-based optimization algorithms are well-suited for expensive discrete problems},
  author = {Rickard Karlsson and Laurens Bliek and Sicco Verwer and Mathijs de Weerdt},
  journal= {arXiv preprint arXiv:2011.03431},
  year   = {2021}
}

备注

16 pages, 3 figures; added keywords, typos corrected, additional information in Figure 3 but results unchanged