用于批量贝叶斯优化的并行知识梯度方法

在黑盒优化的许多应用中，人们可以同时评估多个点，例如在并行计算环境中评估几种不同神经网络架构的性能。本文提出了一种新颖的批量贝叶斯优化算法——并行知识梯度方法。根据构造，该方法提供了单步贝叶斯最优的采样点批量。我们提供了一种计算该贝叶斯最优点批量的高效策略，并证明了在合成测试函数和实际机器学习算法超参数调优中，尤其是在函数评估存在噪声时，并行知识梯度方法寻找全局最优解的速度显著快于以往的批量贝叶斯优化算法。