基于改进局部惩罚的异步批量贝叶斯优化
机器学习
2019-05-29 v3 人工智能
机器学习
摘要
批量贝叶斯优化（BO）已成功应用于利用并行计算进行超参数调优，但它浪费资源：先于其他工作者完成任务的 worker 会处于空闲状态。我们通过开发一种用于 k 个 worker 上异步并行 BO 的方法——异步贝叶斯优化的局部惩罚法（PLAyBOOK）——来解决此问题。我们在合成任务和真实世界问题上实证展示了 PLAyBOOK 及其变体的有效性。我们对同步与异步 BO 进行了比较，表明异步 BO 在挂钟时间和函数评估次数上通常都优于同步批量 BO。
引用
@article{arxiv.1901.10452,
title = {Asynchronous Batch Bayesian Optimisation with Improved Local Penalisation},
author = {Ahsan S. Alvi and Binxin Ru and Jan Calliess and Stephen J. Roberts and Michael A. Osborne},
journal= {arXiv preprint arXiv:1901.10452},
year = {2019}
}
备注
Camera-ready version after incorporating reviewers' suggestions