MUMBO：多任务最大值贝叶斯优化
机器学习
2020-06-23 v1 机器学习
摘要
我们提出了 MUMBO，这是第一个高性能且计算高效的多任务贝叶斯优化采集函数。在此，挑战在于通过评估与真实目标函数存在某种关联的低成本函数来执行高效优化。这是一大类问题，包括流行的多保真度优化任务。然而，尽管已知信息论采集函数能提供最先进的贝叶斯优化，但现有针对多任务场景的实现具有过高的计算要求。因此，先前的采集函数仅适用于低维参数空间且函数查询成本足够大以抵消显著优化开销的问题。在这项工作中，我们推导出一种新颖的多任务版本的熵搜索，在经典优化挑战和多任务超参数调优中均以较低的计算开销实现了稳健的性能。MUMBO 具有可扩展性和高效性，允许将多任务贝叶斯优化部署于具有丰富参数和保真度空间的问题中。
引用
@article{arxiv.2006.12093,
title = {MUMBO: MUlti-task Max-value Bayesian Optimization},
author = {Henry B. Moss and David S. Leslie and Paul Rayson},
journal= {arXiv preprint arXiv:2006.12093},
year = {2020}
}