BoTorch：一种高效的蒙特卡洛贝叶斯优化框架
机器学习
2020-12-10 v3 分布式、并行与集群计算
最优化与控制
机器学习
摘要
贝叶斯优化为包括自动机器学习、工程、物理学和实验设计在内的广泛应用提供了样本高效的全局优化。我们介绍 BoTorch，一个现代的贝叶斯优化编程框架，它结合了蒙特卡洛（MC）采集函数、一种新颖的样本平均近似优化方法、自动微分和方差缩减技术。BoTorch 的模块化设计便于灵活指定和优化用 PyTorch 编写的概率模型，简化了新采集函数的实现。我们的方法得到新颖理论收敛结果的支持，并凭借利用快速预测分布、硬件加速和确定性优化的独特算法基础而具实用性。我们还提出了一种新颖的“一次性”知识梯度（Knowledge Gradient）公式，由我们的理论与软件贡献相结合所实现。在实验中，我们展示了 BoTorch 相对于其他流行库改进的样本效率。
引用
@article{arxiv.1910.06403,
title = {BoTorch: A Framework for Efficient Monte-Carlo Bayesian Optimization},
author = {Maximilian Balandat and Brian Karrer and Daniel R. Jiang and Samuel Daulton and Benjamin Letham and Andrew Gordon Wilson and Eytan Bakshy},
journal= {arXiv preprint arXiv:1910.06403},
year = {2020}
}