面向批量贝叶斯优化的采样采集函数
机器学习
2019-10-18 v2 机器学习
摘要
我们提出采集 Thompson 采样(ATS),一种基于从随机过程采样多个采集函数思想的新型批量贝叶斯优化(BO)技术。我们通过采集函数对一组模型超参数的依赖性来定义该过程。ATS 概念简单、易于实现,且不同于其他批量 BO 方法,它可用于并行化任意顺序采集函数或使现有并行方法进一步扩展。我们在多种基准函数及一种流行梯度提升树算法的超参数优化上展示实验。这些实验证明了 ATS 相对于 BO 的经典并行 Thompson 采样的优势、其与两种最先进批量 BO 方法的竞争力,以及应用于现有并行 BO 算法时的有效性。
引用
@article{arxiv.1903.09434,
title = {Sampling Acquisition Functions for Batch Bayesian Optimization},
author = {Alessandro De Palma and Celestine Mendler-Dünner and Thomas Parnell and Andreea Anghel and Haralampos Pozidis},
journal= {arXiv preprint arXiv:1903.09434},
year = {2019}
}
备注
Presented at BNP@NeurIPS 2018