贝叶斯优化中知其所值而不知其所位
机器学习
2020-08-18 v5 机器学习
摘要
贝叶斯优化在寻找黑盒函数 f 的最优输入 x* 与输出 f* = f(x*) = max f(x) 方面已展现出令人瞩目的成功。然而，在某些应用中，最优输出 f* 事先已知，目标是找到对应的最优输入 x*。本文考虑贝叶斯优化中一种已知最优输出 f* 的新设定。我们的目标是利用关于 f* 的知识高效搜索输入 x*。为此，我们首先利用最优输出信息对高斯过程代理模型进行变换。随后，提出两种采集函数，称为置信界最小化与期望遗憾最小化。我们表明所提方法直观且在定量上优于标准贝叶斯优化方法。我们在 CartPole 问题上调节深度强化学习算法、在 Skin Segmentation 数据集上调节 XGBoost 的真实应用中进行了演示，其最优值均为公开可用。
引用
@article{arxiv.1905.02685,
title = {Knowing The What But Not The Where in Bayesian Optimization},
author = {Vu Nguyen and Michael A. Osborne},
journal= {arXiv preprint arXiv:1905.02685},
year = {2020}
}
备注
16 pages