通过概率重参数化在离散与混合空间上的贝叶斯优化
机器学习
2022-10-20 v1 人工智能
最优化与控制
机器学习
摘要
优化离散（及潜在的连续）设计参数上计算代价高昂的黑盒函数，是科学与工程应用中的普遍问题。贝叶斯优化（BO）是一种流行的、样本高效的方法，它利用概率代理模型与采集函数（AF）来选择有希望评估的设计。然而，在混合或高基数离散搜索空间上最大化 AF 具有挑战性：标准基于梯度的方法无法直接应用，或在搜索空间中逐点评估 AF 在计算上不可行。为解决此问题，我们提议使用概率重参数化（PR）。我们不在含离散参数的搜索空间上直接优化 AF，而是最大化 AF 在由连续参数定义的概率分布上的期望。我们证明在适当的重参数化下，最大化概率目标的 BO 策略与最大化 AF 的策略相同，因此 PR 享有使用底层 AF 的原始 BO 策略相同的后悔界。此外，我们的方法在使用概率目标及其梯度的可扩展无偏估计器进行梯度上升时，可证明收敛至概率目标的驻点。因此，随着起始点与梯度步数的增加，我们的方法将恢复 AF 的最大化点（这是常用 BO 后悔界常被忽视的前提）。我们从经验上验证了我们的方法，并在广泛的实际应用上展示了最先进的优化性能。PR 是对近期工作的补充（并使其受益），且自然推广至含多目标与黑盒约束的设定。
引用
@article{arxiv.2210.10199,
title = {Bayesian Optimization over Discrete and Mixed Spaces via Probabilistic Reparameterization},
author = {Samuel Daulton and Xingchen Wan and David Eriksson and Maximilian Balandat and Michael A. Osborne and Eytan Bakshy},
journal= {arXiv preprint arXiv:2210.10199},
year = {2022}
}
备注
To appear in Advances in Neural Information Processing Systems 35, 2022. Code available at: https://github.com/facebookresearch/bo_pr